吞食了海量数据之后，亚马逊的 AI 招聘软件患上了行业里潜在的性别歧视 ｜ Global 24／7

　　近日，据路透社报道，亚马逊的机器学习专家披露，该公司设计的AI招聘算法存在对女性求职者的偏见。自2014年起，亚马逊便开发了可筛选求职者的程序，旨在通过高效、自动化的方式挑选人才，与商城商品评分类似，该程序将应聘者分为一星至五星不同等级，再由人工HR按评价排名进行筛选。

　　监管文件显示，亚马逊在2015年6月全球员工数达到近58万人，较此前增长了两倍多。然而，该招聘算法基于十年间主要由男性投递的简历进行训练，未能妥善处理科技行业普遍存在的性别失衡问题，导致算法对女性求职者产生偏见，倾向于选择男性。

　　知情人士透露，算法在读取含有“women’s”相关词汇时，会降低简历权重。例如，“女子象棋俱乐部队长”或“女子学院”等关键词会导致评级降低。此外，算法还偏好男性求职者简历中常见的词汇，如“执行”和“攻占”。

　　尽管亚马逊声称重视员工多样性和平等，并尝试防止程序产生偏见，但机器学习黑箱操作使得结果难以追溯。实践表明，算法推荐的“最佳人选”在工作中表现并不理想。因此，亚马逊高管对该项目失去了信心，开发团队也于去年解散。目前，亚马逊不会直接依据算法推荐聘请员工，仅将AI工具结果作为招聘参考。

　　尽管亚马逊的尝试遭遇挫败，但人工智能在招聘领域的应用正逐渐普及。据CareerBuilder调研显示，2017年美国55%的HR预计在未来五年内，人工智能将参与其日常工作。希尔顿和高盛集团等也在探索自动化招聘流程。除了提高效率外，减少人类招聘者的主观判断也是采用科技参与招聘的原因之一。例如，在视频面试中加入视觉识别技术以分析求职者面部表情、姿态和用语等。目前，联合利华、希尔顿、高盛等公司已将类似技术应用于招聘流程中。

　　然而，如亚马逊的实验所示，目前招聘仍无法完全交由技术完成。亚马逊正在爱丁堡成立新团队重新研发招聘算法，重点关注如何实现多元化并减少偏见。此外，M.I.T研究员Joy Buolamwini曾发表论文指出面部识别技术中存在的严重种族偏见问题。确保算法公平且过程透明、结果有说服力是一个比人类招聘者给出“不满意理由”更艰巨的挑战。如何避免算法偏见需要克服人类自身的偏见和思维缺陷。当算法录入偏见后，这些偏见可能会逐渐放大并最终导致算法不精准、有缺陷的批评。