基于反事实预测的平等机会与平权行动
机器学习
2019-05-31 v2 机器学习
摘要
机器学习（ML）可以通过从历史数据中学习预测决策来实现决策自动化。然而，这些预测器可能继承过去决策中的歧视性策略并复现不公平决策。在本文中，我们提出两种调整已拟合 ML 预测器以使其公平的算法。我们关注两种法律意义上的公平性概念：(a) 不论敏感属性如何均为个体提供平等机会（EO），以及 (b) 通过平权行动（AA）弥补历史劣势。更具体地说，我们通过设定因果模型并考虑反事实决策来产生公平的 EO 与 AA 预测器。我们证明所得预测器在满足公平性的同时在预测性能上理论最优。我们在关于录取、收入、信用与再犯的数据集上评估了这些算法以及准确性与公平性之间的权衡。
引用
@article{arxiv.1905.10870,
title = {Equal Opportunity and Affirmative Action via Counterfactual Predictions},
author = {Yixin Wang and Dhanya Sridhar and David M. Blei},
journal= {arXiv preprint arXiv:1905.10870},
year = {2019}
}
备注
18 pages