再犯预测中的算法偏差：一种因果视角
统计方法学
2019-11-26 v1 人工智能
机器学习
机器学习
摘要
ProPublica 对惩教罪犯管理剖析替代制裁（COMPAS）软件工具所产生的再犯预测的分析表明，这些预测对非洲裔美国被告存在种族偏见。我们使用对底层算法公平性问题的一个因果重构来分析 COMPAS 数据。具体而言，我们利用 FACT（一种近期提出的基于因果性的算法公平性度量）来评估 COMPAS 是否对非洲裔美国被告表现出种族偏见。我们使用 Neyman-Rubin 潜在结果框架从观测数据进行因果推断，以从 COMPAS 数据估计 FACT。我们的分析提供了有力证据，表明 COMPAS 对非洲裔美国被告存在种族偏见。我们进一步表明，在存在未测量混杂的情况下，来自 COMPAS 数据的 FACT 估计是稳健的。
引用
@article{arxiv.1911.10640,
title = {Algorithmic Bias in Recidivism Prediction: A Causal Perspective},
author = {Aria Khademi and Vasant Honavar},
journal= {arXiv preprint arXiv:1911.10640},
year = {2019}
}
备注
Accepted for publication at the Thirty Fourth AAAI conference on Artificial Intelligence (AAAI-20)