为刑事司法机构构建算法决策工具时所做的“技术性”设计选择如何产生宪法危险？
计算机与社会
2023-01-13 v1 人工智能
摘要
这篇分为两部分的论文认为，基于机器学习的算法工具的开发者在为刑事司法机构提供决策信息时所做的看似“技术性”的选择，可能产生严重的宪法危险，增加决策权滥用以及不公正的范围与程度的可能性。借助三种正在或最近用于评估个人所构成“风险”以告知刑事司法机构应如何对待他们的算法工具，我们整合数据科学与公法学术的见解，揭示公法原则及根植于这些原则的更具体法律义务如何在算法工具构建与实施中被系统性忽视。我们认为，技术开发者必须与公法专家紧密合作，以确保若算法决策支持工具要为刑事司法决策提供信息，这些工具在构建全过程均以可证明符合公法原则与教义(包括尊重人权)的方式配置和实施。
引用
@article{arxiv.2301.04713,
title = {How do "technical" design-choices made when building algorithmic decision-making tools for criminal justice authorities create constitutional dangers?},
author = {Karen Yeung and Adam Harkens},
journal= {arXiv preprint arXiv:2301.04713},
year = {2023}
}
备注
Manuscript accepted for publication, to appear in "Public Law" (2023), published by Sweet & Maxwell