特权分数
机器学习
2025-02-04 v1 机器学习
摘要
公平感知机器学习的偏差转换方法旨在纠正关于受保护属性 (PA) 的非中立现状。然而，当前的方法缺乏对驱动非中立性因素的明确表述。我们引入特权分数 (PS)，通过比较现实世界中的模型预测与消除了 PA 影响的公平世界中的预测，来衡量与 PA 相关的特权。在个体层面，PS 可以识别有资格获得平权行动的个体；在全局层面，PS 可以为偏差转换政策提供信息。在介绍了 PS 的估计方法之后，我们提出了特权分数贡献 (PSC)，这是一种将特权的来源归因于中介特征和直接效应的解释方法。我们为 PS 和 PSC 都提供了置信区间。在模拟和真实世界数据上的实验证明了我们方法的广泛适用性，并为抵押贷款和大学招生申请中的性别和种族特权提供了新的见解。
引用
@article{arxiv.2502.01211,
title = {Privilege Scores},
author = {Ludwig Bothmann and Philip A. Boustani and Jose M. Alvarez and Giuseppe Casalicchio and Bernd Bischl and Susanne Dandl},
journal= {arXiv preprint arXiv:2502.01211},
year = {2025}
}