亚马逊事件之后:人工智能可以消除招聘中的偏见吗?

2018年10月15日 13539次浏览

文/Sushman Biswas

人工智能(AI)可以模仿和放大人类的偏见,然而,当负责任地使用它可以帮助克服偏见,做出客观的,数据驱动的决定。

2014年,当亚马逊(Amazon)组建团队开发其新招聘引擎时,它曾被寄予很高的期望。这个实验性的解决方案使用人工智能来对候选人的简历进行评分,以识别出最优秀的人才。然而,在测试解决方案后不久,研究小组发现该系统并没有以性别中立的方式对候选人进行打分。与任何深度学习算法一样,该算法依赖于对历史数据的训练。不幸的是,嵌入其中的现实世界数据具有显示性别偏见的模式,而人工智能算法最终将其纳入了功能。

亚马逊的招聘引擎经过培训,可以通过观察提交给公司的10年简历中的模式来评估应聘者。不出所料,大多数申请者是男性,这反映了整个科技行业的性别差异。因此,招聘引擎告诉自己,男性候选人更可取。该公司对涉及到可识别性别信息的简历进行了处罚——

尊敬的用户:
当前内容已经禁止游客访问!