刑事司法算法中的不确定性：宾夕法尼亚加性分类工具的仿真研究
计算机与社会
2021-12-02 v1
摘要
人们已对量刑、保释设定、假释决策和再犯相关算法给予诸多关注，而对监狱算法（即用于决定被监禁者生活体验的算法）关注较少。本文研究此类算法之一，即宾夕法尼亚加性分类工具（PACT），其为被监禁者分配监管等级。我们以刑事司法算法常被分析的方式分析PACT：即我们训练了一个精确的机器学习模型来模拟PACT；我们研究了其在性别、年龄和种族上的公平性；并确定了最重要的特征。除这些常规计算外，我们提出并实施了研究此类算法的一些新方法。我们建议将注意力从结果本身转移到结果的可变性上，尤其是因为许多监狱算法被反复使用且不确定性可能传播。通过对监管等级分配进行若干仿真，我们揭示了如PACT之类工具的问题方面。
引用
@article{arxiv.2112.00301,
title = {Uncertainty in Criminal Justice Algorithms: simulation studies of the Pennsylvania Additive Classification Tool},
author = {Swarup Dhar and Vanessa Massaro and Darakhshan Mir and Nathan C. Ryan},
journal= {arXiv preprint arXiv:2112.00301},
year = {2021}
}
备注
21 pages, 11 figures, 6 tables