无不公的证据：一种新的公平算法反事实检验
计算机与社会
2025-10-28 v2 人工智能
机器学习
摘要
关于算法公平性的哲学文献日益增多，这些文献审视了诸如等几率与校准等统计标准、因果与反事实方法，以及结构性不公与复合性不公的作用。然而，一个重要的维度被忽视了：算法输出的证据价值本身是否依赖于结构性不公。我们对比了两种旨在指导警力部署的算法：一种依赖于历史犯罪数据的预测性警务算法，以及一种记录正在发生违法行为的基于摄像头的系统。在评估基于某条证据采取行动的道德可接受性时，我们不仅必须询问该证据在现实世界中是否具有证明力，还必须询问它在没有相关不公的邻近世界中是否仍具有证明力。预测性警务算法未能通过此检验，而基于摄像头的系统则通过了。当证据未能通过检验时，将其用于惩罚性目的在道德上是有问题的，其问题程度超过了通过检验的证据。
引用
@article{arxiv.2510.12822,
title = {Evidence Without Injustice: A New Counterfactual Test for Fair Algorithms},
author = {Michele Loi and Marcello Di Bello and Nicolò Cangiotti},
journal= {arXiv preprint arXiv:2510.12822},
year = {2025}
}
备注
13 pages. Disclaimer on AI use: the authors used Claude 3.7 in the early stages of this project to help in the formulation of the Counterfactual Independence Principle presented in this paper. The model provided preliminary suggestions pertaining to the principle's articulation, case studies, and the structure of the argument. Screenshots of the initial output are on file with the authors