幽灵化机器：司法对再犯风险评估工具的抵制
计算机与社会
2023-06-13 v1
摘要
再犯风险评估工具被作为一种刑事司法改革的“循证”策略提出——一种增加量刑一致性、取代现金保释并减少大规模监禁的方法。然而在实践中，以 AI 为核心的改革往往只是给官僚体系迟缓而迷宫般的机器又增加了一层，并遭遇内部抵制。通过对宾夕法尼亚州 23 名刑事法官及其他刑事法律官僚进行的以社区为导向的访谈研究，我发现法官们绝大多数忽视了一项近期实施的量刑风险评估工具，他们贬斥其为“无用”、“毫无价值”、“无聊”、“浪费时间”、“不是个东西”以及干脆“没帮助”。我认为，这种算法厌恶无法用现有文献所给出的个人对工具的不信任或自动化焦虑来解释。相反，该工具未被使用是三种组织因素相互作用的结果：关于审前调查报告的地方层面规范；宾夕法尼亚量刑委员会为回应多年公众与内部抵制而对该工具所做的改动；以及信息传达给法官的方式存在的问题。这些发现为组织影响对算法的职业抵制所起的重要作用提供了新见解，有助于解释为何以算法为核心的改革可能未能产生预期效果。本研究也为反对使用风险评估工具的实证论证作出了贡献：它们资源密集，且未显示出积极的实地影响。
引用
@article{arxiv.2306.06573,
title = {Ghosting the Machine: Judicial Resistance to a Recidivism Risk Assessment Instrument},
author = {Dasha Pruss},
journal= {arXiv preprint arXiv:2306.06573},
year = {2023}
}
备注
Accepted to FAccT '23