名何以载偏:在无保护属性可用时减少简历中的偏见
机器学习
2019-04-11 v1 计算与语言
机器学习
摘要
越来越多的研究提出减轻机器学习系统中偏见的方法。这些方法通常依赖于对种族、性别或年龄等保护属性的获取。然而,这带来了两个重大挑战:(1) 保护属性可能不可用,或使用它们可能不合法;(2) 通常期望同时考虑多个保护属性及其交集。在减轻职业分类中偏见的背景下,我们提出一种方法,用于抑制个体真实职业的预测概率与其姓名词嵌入之间的相关性。该方法利用了词嵌入中所编码的社会偏见,从而无需获取保护属性。关键在于,它仅在训练时需要访问个体姓名,而在部署时不需要。我们使用大规模在线传记数据集评估了所提方法的两种变体。我们发现两种变体同时降低了种族与性别偏见,且分类器整体真正率几乎未减。
引用
@article{arxiv.1904.05233,
title = {What's in a Name? Reducing Bias in Bios without Access to Protected Attributes},
author = {Alexey Romanov and Maria De-Arteaga and Hanna Wallach and Jennifer Chayes and Christian Borgs and Alexandra Chouldechova and Sahin Geyik and Krishnaram Kenthapadi and Anna Rumshisky and Adam Tauman Kalai},
journal= {arXiv preprint arXiv:1904.05233},
year = {2019}
}
备注
Accepted at NAACL 2019; Best Thematic Paper