美国法院如何审查其再犯风险评估工具？在基于司法审查的框架下情境化AI公平性标准
计算机与社会
2025-05-27 v2
摘要
AI/HCI界和法律界对公平性形成了很大程度上独立的概念体系。这种概念差异阻碍了将技术性公平性标准（例如，程序公平、群体公平和个体公平）纳入可持续的政策和设计中，特别是对于像再犯风险评估这样的高风险应用。为了促进共识，我们进行了法律研究，以确定技术性AI公平性概念是否以及如何在主要法律渊源中体现。我们发现，虽然由于司法解释，主要的技术性公平性标准可以与“正当程序”和“平等保护”等宪法要求联系起来，但在将其具体化为成文法/法规时，会出现一些挑战。这些政策通常采纳程序公平和群体公平，但忽略了主要的技术性标准——个体公平。关于程序公平，司法“审查”类别是相关的，但可能无法完全捕捉法院如何审查在像RRA这样可能具有歧视性的政府工具中使用人口统计特征的方式。此外，一些政策在是否对某些人口统计特征应用程序公平方面相互矛盾。因此，我们提出了一个新的框架，整合了美国与人口统计相关的法律审查概念和技术性公平性标准，并将其置于其他三个主要采用AI的司法管辖区（欧盟、中国和印度）的背景下进行情境化。
引用
@article{arxiv.2505.02749,
title = {How May U.S. Courts Scrutinize Their Recidivism Risk Assessment Tools? Contextualizing AI Fairness Criteria on a Judicial Scrutiny-based Framework},
author = {Tin Nguyen and Jiannan Xu and Phuong-Anh Nguyen-Le and Jonathan Lazar and Donald Braman and Hal Daumé and Zubin Jelveh},
journal= {arXiv preprint arXiv:2505.02749},
year = {2025}
}