存在内隐偏见时的选拔问题
计算机与社会
2018-01-12 v1 机器学习
机器学习
摘要
在过去二十年中,内隐偏见的概念已成为我们理解招聘、晋升与学校录取等活动中歧视现象的重要组成。关于内隐偏见的研究假定,当人们评价他人——例如在招聘情境中——其关于特定群体归属的无意识偏见会影响决策,即便他们并无歧视这些群体成员的有意意图。日益增多的实验工作指出了内隐偏见在造成不利结果方面的作用。在此我们提出一个理论模型,用于研究内隐偏见对选拔决策的影响,以及在该模型内分析针对内隐偏见的可能程序性补救措施。我们模型所代表的一种典型情境是招聘场景:招聘委员会试图在求职者中挑选一组终面候选人进行面试,基于其未来潜力评价申请人,但他们对潜力的估计因针对某一群体成员的内隐偏见而偏斜。在此模型中,我们表明诸如 Rooney Rule(要求至少一名终面候选人选自受影响群体)的措施,不仅能改善该受影响群体的代表性,还能为实施招聘的组织带来绝对意义上的更高收益。然而,确定此类措施可带来更高收益的条件,涉及偏见的程度与申请人特征潜在分布之间的微妙权衡,从而引出关于在概率性侧面信息存在下顺序统计量的新颖理论问题。
引用
@article{arxiv.1801.03533,
title = {Selection Problems in the Presence of Implicit Bias},
author = {Jon Kleinberg and Manish Raghavan},
journal= {arXiv preprint arXiv:1801.03533},
year = {2018}
}
备注
ITCS 2018