计算在解决机器学习与司法系统风险评估中公平权衡的局限
机器学习
2021-02-09 v1 机器学习
应用统计
摘要
本文探讨机器学习中(尤其在司法场景中)不同的种族公平观念如何呈现出难以通过计算解决的权衡。机器学习常用于司法场景创建风险评估,以决定干预、资源分配与惩罚性措施。当按种族群体审视时,这些基于机器学习的工具的整体方面与表现——如分数分布、各等级的结果率,以及假阳性与真阳性的频率——可能存在问题。产生不同分数分布或使等级与结果呈不同关系的模型,在这些分数与等级直接关联个人自由限制及更广泛的种族不平等背景时,是有问题的。尽管计算有助于凸显这些方面,但数据与计算不太可能解决它们。本文探讨了价值观与使命不得不填补计算所留空白之处。
引用
@article{arxiv.2102.04342,
title = {The Limits of Computation in Solving Equity Trade-Offs in Machine Learning and Justice System Risk Assessment},
author = {Jesse Russell},
journal= {arXiv preprint arXiv:2102.04342},
year = {2021}
}