公平解构：刑事司法中“公平”算法的社会技术视角
计算机与社会
2022-09-15 v2
摘要
早期对刑事司法中使用的风险评估算法的研究揭示了广泛的种族偏见。作为回应，机器学习研究者已开发出多种公平性方法，其中许多依赖于在受保护属性间均衡经验度量。在此，我回顾社会技术视角，以描绘公平在理论与实践之间的显著鸿沟，重点关注刑事司法。我（1）阐明社会语境如何削弱仅限于AI系统输出的分析；（2）主张大量公平机器学习文献未能考量底层犯罪数据在认识论上的问题。相较于构建如风险评估算法般固化权力失衡的AI，我追问数据科学能否被用于理解结构性边缘化的根源。
引用
@article{arxiv.2106.13455,
title = {Fairness Deconstructed: A Sociotechnical View of 'Fair' Algorithms in Criminal Justice},
author = {Rajiv Movva},
journal= {arXiv preprint arXiv:2106.13455},
year = {2022}
}
备注
9 pages + Works Cited; v2 fixes some poor phrasing