鲁尼规则对长期内隐偏见的效应
计算机与社会
2020-10-22 v1 人工智能
机器学习
统计计算
摘要
大量证据表明了内隐偏见在各种情境下的不利影响——从招聘到医疗保健。鲁尼规则是一项为对抗内隐偏见而开发的干预措施,已在私营和公共部门实施。鲁尼规则要求选拔小组在候选名单中至少包含一名来自代表性不足群体的候选人。最近,Kleinberg 和 Raghavan 提出了一个内隐偏见模型,并研究了鲁尼规则应用于单次选拔决策时的有效性。然而,选拔决策往往随时间反复发生。此外,据观察,在持续的反刻板印象反馈下,针对代表性不足候选人的内隐偏见会发生改变。我们考虑了一个模型,描述选拔小组的内隐偏见如何随其招聘决策(在有或无鲁尼规则情况下)随时间变化。我们的主要结果是,当小组受鲁尼规则约束时,其内隐偏见大致以候选名单大小的倒数的速率减少——与候选人数无关;而在无鲁尼规则时,该速率与候选人数成反比。因此,当候选人数远大于候选名单大小时,鲁尼规则能更快地减少内隐偏见,为将其作为缓解内隐偏见的策略提供了额外理由。为实证评估鲁尼规则在重复选拔决策中的长期效应,我们在 Amazon MTurk 上开展了一项迭代候选人选拔实验。我们观察到,确实,受鲁尼规则约束的决策者会比无规则时选出更多规则本身要求之外的少数群体候选人,且这样做并未显著降低所选候选人的效用。
引用
@article{arxiv.2010.10992,
title = {The Effect of the Rooney Rule on Implicit Bias in the Long Term},
author = {L. Elisa Celis and Chris Hays and Anay Mehrotra and Nisheeth K. Vishnoi},
journal= {arXiv preprint arXiv:2010.10992},
year = {2020}
}
备注
Abstract shortened to satisfy the 1920 character limit