利用保形预测集改进刑事司法算法风险评估的公平性
应用统计
2021-05-24 v3 机器学习
摘要
风险评估算法因潜在的不公平性而受到合理批评，目前有一个活跃的小型产业正试图对其进行修复。在本文中，我们采用保形预测集的框架，以消除风险算法本身及用于预测的协变量中的不公平性。从 300,000 名被告在传讯时的样本中，我们构建了一个混淆表及其衍生的公平性度量，这些度量有效地消除了黑人与白人被告之间的任何显著差异。我们还为个别被告生成了公平的预测，并附带预测结果即为真实结果的有效概率保证。我们将我们的工作视为在广泛刑事司法决策中应用的概念验证。所提供的程序可以在司法管辖区常规实施，使用的是管理者常用的刑事司法数据集。必要的程序可以在脚本软件 R 中找到。然而，利益相关者是否会接受我们的方法作为实现风险评估公平性的手段尚属未知。尽管我们提供了一种帕累托改进，但仍存在一些需要解决的法律问题。
引用
@article{arxiv.2008.11664,
title = {Improving Fairness in Criminal Justice Algorithmic Risk Assessments Using Conformal Prediction Sets},
author = {Richard A. Berk and Arun Kumar Kuchibhotla},
journal= {arXiv preprint arXiv:2008.11664},
year = {2021}
}
备注
We found an interpretive error in the method. We are trying now to develop a better approach