存在隐性偏见时的排序干预方法
计算机与社会
2020-01-27 v1 人工智能
数据结构与算法
信息检索
机器学习
摘要
隐性偏见是指对特定社会群体（例如由性别或种族界定）的成员无意识地赋予特定品质（或缺乏该品质）。关于隐性偏见的研究表明，这些无意识的刻板印象会在各种社会情境中产生不利后果，例如工作筛选、教学或警务。最近，(Kleinberg and Raghavan, 2018) 考虑了一个隐性偏见数学模型，并展示了 Rooney 规则作为一种约束在某些子集选择问题情形下对改善结果效用的有效性。在此，我们研究为子集选择的推广——排序——设计干预的问题，该问题要求输出一个有序集合，并且是各种社会和计算情境中的核心原语。我们提出了一类简单且可解释的约束，并证明它们能够最优地缓解 (Kleinberg and Raghavan, 2018) 所研究模型的推广中的隐性偏见。随后，我们证明在关于条目效用的自然分布假设下，简单的类 Rooney 规则约束也能惊人地恢复因隐性偏见而损失的几乎全部效用。最后，我们用来自 IIT-JEE (2009) 数据集和 Semantic Scholar 研究语料库的真实分布上的实证发现补充了我们的理论结果。
引用
@article{arxiv.2001.08767,
title = {Interventions for Ranking in the Presence of Implicit Bias},
author = {L. Elisa Celis and Anay Mehrotra and Nisheeth K. Vishnoi},
journal= {arXiv preprint arXiv:2001.08767},
year = {2020}
}
备注
This paper will appear at the ACM FAT* 2020 conference