超越不相容性：机器学习与法律中互斥公平性准则之间的权衡
计算机与社会
2024-12-23 v6
摘要
公平且可信的 AI 在机器学习与法律领域正变得愈发重要。一个重要后果是，决策者必须力求保证一种“公平”的、即无歧视的算法决策流程。然而，在现实事实假设下，若干相互竞争的算法公平性概念已被证明是互斥的。这涉及例如广泛使用的“组内校准”与“正/负类平衡”公平性度量。本文提出一种新颖算法（公平性插值方法：FAIM），用于在三者公平性准则之间连续插值。由此，一个初始不公平的预测可被修正，以至少部分满足所期望的、相应公平性条件的加权组合。我们展示了该算法在合成数据、COMPAS 数据集以及来自电子商务领域的一个新的真实世界数据集上的有效性。最后，我们讨论了在何种程度上 FAIM 可被用以履行相互冲突的法律义务。分析表明，它或可操作化传统法律领域（如信用评分与刑事司法程序）中的义务，亦可用于欧盟最新出台的 AI 法规，如《数字市场法》与近期生效的《人工智能法案》。
引用
@article{arxiv.2212.00469,
title = {Beyond Incompatibility: Trade-offs between Mutually Exclusive Fairness Criteria in Machine Learning and Law},
author = {Meike Zehlike and Alex Loosley and Håkan Jonsson and Emil Wiedemann and Philipp Hacker},
journal= {arXiv preprint arXiv:2212.00469},
year = {2024}
}