“不看肤色”的算法：相似受众与特殊广告受众中的偏见比较
计算机与社会
2022-06-01 v3
摘要
研究人员和记者已多次表明，在信贷、就业、医疗或刑事司法等领域常用的算法可能产生歧视性影响。一些组织试图通过简单地从算法输入中移除敏感特征来缓解这些影响。在本文中，我们利用一个独特机会探讨了该方法的局限性。2019 年，Facebook 同意通过从一种为广告定向识别与广告主提供用户相似用户的算法输入中移除某些敏感特征来和解诉讼，并使该算法的修改版和未修改版均可供广告主使用。我们开发了方法来衡量该修改算法所创建受众相对于未修改算法在性别、年龄和种族方面的偏见。我们的结果提供了实验证明：仅从真实世界算法系统的输入中移除人口统计特征可能无法防止有偏输出。因此，使用算法来帮助调节重要生活机会获取的组织应考虑其他缓解歧视性影响的方法。
引用
@article{arxiv.1912.07579,
title = {Algorithms that "Don't See Color": Comparing Biases in Lookalike and Special Ad Audiences},
author = {Piotr Sapiezynski and Avijit Ghosh and Levi Kaplan and Aaron Rieke and Alan Mislove},
journal= {arXiv preprint arXiv:1912.07579},
year = {2022}
}