中文

公平性不仅仅是算法: COMPAS 数据中的种族差异与再犯时间

计算机与社会 2025-04-29 v1 应用统计

摘要

在刑事司法系统中,关于再犪的种族差异持续存在,算法风险评估工具的采用进一步加剧了这一挑战。过去的研究主要关注这些工具引起的偏见,将再犪视为二元结果。很少有研究从系统性视角考察非算法因素(包括社会经济因素)在驱动种族差异方面的作用。为此目的,本文提出了多阶段因果框架,以考察差异的出现及其范围,关注再犪的时间而非简单的数字结果。该框架捕获了种族、算法以及背景因素之间的相互作用。本文引入了反事实种族差异的概念,并提出一种可通过生存分析在观察数据上执行的形式检验,用于评估再犪差异是否源于算法偏见、背景因素或其相互作用。在 particular,它正式建立了如果在统计证据中观察到跨族群的差异,就支持拒绝非算法因素(包括社会经济因素)不影响再犪的原假设。对 COMPAS 数据集应用此框架的实证研究显示,短期再犪模式在控制风险得分后不 exhibit 种族差异。然而,随着更长的跟踪期,尤其是在低风险群体中,出现统计显著的差异。这表明,除了算法得分之外的因素(可能是住房、就业和社会支持方面的结构性差异),可能会累积并加剧再犪风险。该结果强调了超越算法改进之外的政策干预的必要性,以应对影响再犪轨迹的更广泛因素。

关键词

引用

@article{arxiv.2504.18629,
  title  = {Fairness Is More Than Algorithms: Racial Disparities in Time-to-Recidivism},
  author = {Jessy Xinyi Han and Kristjan Greenewald and Devavrat Shah},
  journal= {arXiv preprint arXiv:2504.18629},
  year   = {2025}
}