刀叉与利刃：刑事司法算法风险评估工具中的预测不一致性
计算机与社会
2022-09-23 v2
摘要
大数据与算法风险预测工具承诺通过减少决策中的人类偏见与不一致性来改进刑事司法系统。然而，在开发、测试和部署这些社会技术工具时，不同但同样合理的选择可能导致对同一人产生不同的预测风险分数。通过综合机器学习、统计学、社会学、犯罪学、法学、哲学和经济学等多视角，我们将此现象概念化为预测不一致性。我们描述了算法风险评估工具开发与部署各阶段中预测不一致性的来源，并思考未来技术发展可能如何放大预测不一致性。但我们主张，在多元与 pluralistic 社会中，我们不应期望完全消除预测不一致性。相反，为增强算法风险预测工具的法律、政治和科学合法性，我们提议识别并记录相关且合理的“分叉路径”，以实现个体层面预测不一致性的可量化、可复现的多重宇宙与设定曲线分析。
引用
@article{arxiv.2012.00289,
title = {Forks Over Knives: Predictive Inconsistency in Criminal Justice Algorithmic Risk Assessment Tools},
author = {Travis Greene and Galit Shmueli and Jan Fell and Ching-Fu Lin and Han-Wei Liu},
journal= {arXiv preprint arXiv:2012.00289},
year = {2022}
}