评估执法系统中种族偏见的因果框架
应用统计
2024-03-21 v2 计算机与社会
机器学习
摘要
我们致力于开发一种数据驱动的方法来评估执法系统中由种族引起的偏见。虽然最近的工作利用警察拦截数据在警民互动的背景下解决了这个问题，但它们有两个关键局限性。首先，只有在考虑到种族之外的真实犯罪性时才能正确量化偏见，但 prior works 中缺乏这一点。其次，执法系统是多阶段的，因此重要的是隔离“互动因果链”中偏见的真正来源，而不是仅仅关注最终结果；这有助于指导改革。在这项工作中，我们通过提出一个包含犯罪性的多阶段因果框架来应对这些挑战。我们提供了理论表征和相应的数据驱动方法，以评估 (a) 任何形式种族偏见的存在，以及 (b) 如果存在，这种偏见在种族和犯罪性方面的主要来源。我们的框架识别了具有不同特征的三种典型场景：在像 (1) 机场安检这样的环境中，观察到的针对某一种族的偏见的主要来源可能是执法部门对该种族无辜者的偏见；(2) 在人工智能赋能的警务中，观察到的针对某一种族的偏见的主要来源可能是执法部门对该种族罪犯的偏见；以及 (3) 在警民互动中，观察到的针对某一种族的偏见的主要来源可能是执法部门对该种族的偏见，或是公众在举报另一种族时的偏见。通过对警民互动数据和 911 呼叫数据的广泛实证研究，我们发现了一个此类反直觉现象的实例：在新奥尔良，观察到的偏见是针对多数种族的，其可能的原因是公众过度报告（通过 911 呼叫）涉及少数种族的事件。
引用
@article{arxiv.2402.14959,
title = {A Causal Framework to Evaluate Racial Bias in Law Enforcement Systems},
author = {Jessy Xinyi Han and Andrew Miller and S. Craig Watkins and Christopher Winship and Fotini Christia and Devavrat Shah},
journal= {arXiv preprint arXiv:2402.14959},
year = {2024}
}