通过对抗学习实现公平性：在再犯预测中的应用
机器学习
2018-07-03 v1 机器学习
摘要
再犯预测分数在美国各地被用于确定数十万囚犯的量刑与监管。此类分数生成器之一是 Northpointe 的替代制裁罪犯管理侧写（COMPAS）分数，用于加州和佛罗里达等州，既往研究表明按某些公平性度量其对黑囚犯存在偏见。为抵消该种族偏见，我们提出一种对抗训练的神经网络，用于预测再犯并被训练以消除种族偏见。将我们的模型与 COMPAS 比较，我们获得了预测准确率提升，并更接近达成三项公平性度量中的两项：均等概率与机会均等。我们的模型可推广至任意预测任务与人口统计群体。本研究为再犯预测这一高风险现实应用提供了科学复现与简化的范例。
引用
@article{arxiv.1807.00199,
title = {Achieving Fairness through Adversarial Learning: an Application to Recidivism Prediction},
author = {Christina Wadsworth and Francesca Vera and Chris Piech},
journal= {arXiv preprint arXiv:1807.00199},
year = {2018}
}
备注
To be published in FAT/ML, 2018, Stockholm, Sweden