Bias in Bios：高风险场景下语义表示偏差的案例研究
信息检索
2019-01-29 v1 机器学习
机器学习
摘要
我们提出了一项关于职业分类中性别偏差的大规模研究，在该任务中机器学习的使用可能对人们的生活产生负面结果。我们分析了语义表示偏差可能导致的分配危害。为此，我们研究了在在线传记的不同语义表示中纳入显式性别指示符（如名字和代词）对职业分类的影响。此外，我们量化了在这些指示符被“擦除”后仍然存在的偏差，并描述了在缺乏显式性别指示符时出现的代理行为。正如我们所展示的，不同性别间的真正例率差异与职业中已有的性别失衡相关，这可能会加剧这些失衡。
引用
@article{arxiv.1901.09451,
title = {Bias in Bios: A Case Study of Semantic Representation Bias in a High-Stakes Setting},
author = {Maria De-Arteaga and Alexey Romanov and Hanna Wallach and Jennifer Chayes and Christian Borgs and Alexandra Chouldechova and Sahin Geyik and Krishnaram Kenthapadi and Adam Tauman Kalai},
journal= {arXiv preprint arXiv:1901.09451},
year = {2019}
}
备注
Accepted at ACM Conference on Fairness, Accountability, and Transparency (ACM FAT*), 2019