算法辅助人类决策的实验评估：在审前公共安全评估中的应用

尽管我们日常生活中对全自动化算法决策的依赖日益增加，人类仍做出影响重大的决策。在商业、医疗与公共政策中常见的是，算法生成的建议被提供给人类决策者以指导其决策。尽管已有快速增长的文献评估此类算法建议的偏差与公平性，一个被忽视的问题在于它们是否帮助人类做出更好的决策。我们发展了一种统计方法学，用于实验性评估算法建议对人类决策的因果影响。我们还展示了如何检验算法建议是否改善人类决策的公平性，并推导了不同设定下的最优决策规则。我们将所提方法学应用于首个评估刑事司法系统中审前公共安全评估（PSA）的随机对照试验的初步数据。PSA 的一个目标是帮助法官决定哪些被捕者应被释放。基于可得的初步数据，我们发现向法官提供 PSA 对其决策及后续被捕者行为总体影响甚微。然而，我们的分析产生了一些潜在提示性证据：PSA 可能有助于避免对女性被捕者做出不必要的严苛决策（无论其风险水平如何），同时促使法官对被视为高风险的男性被捕者做出更严格的决策。在公平性方面，PSA 似乎加剧了针对男性的性别偏见，而对法官决策中任何既有的种族差异影响甚微。最后，我们发现除非新犯罪的成本足够高，否则 PSA 的建议可能过于严苛。