刑事司法系统中部署的算法工具的透明度、治理与监管:一个英国案例研究
计算机与社会
2022-06-03 v2
摘要
我们呈现了英国刑事司法系统中使用的工具调查,分为三类:数据基础设施、数据分析和风险预测。许多工具目前处于部署状态,提供了潜在益处,包括效率和一致性的提升。然而,也存在重要关切。关于这些工具、其目的、使用方式及使用者的透明信息难以获取。即便信息可用,往往也不足以进行令人满意的评估。需要更多工作来建立治理机制,以确保工具以透明、安全和道德的方式部署。我们呼吁与利益相关者更多接触,并更充分地记录工具的预期目标、相较于其他方案如何实现该目标,以及部署中如何被监控。我们强调了评估已部署工具可信度时需考虑的额外要点,并提出了具体的政策建议。
引用
@article{arxiv.2205.15258,
title = {Transparency, Governance and Regulation of Algorithmic Tools Deployed in the Criminal Justice System: a UK Case Study},
author = {Miri Zilka and Holli Sargeant and Adrian Weller},
journal= {arXiv preprint arXiv:2205.15258},
year = {2022}
}
备注
AAAI/ACM Conference on AI, Ethics, and Society 2022