超越人口统计奇偶：重新定义平等对待
机器学习
2023-10-03 v3 计算机与社会
摘要
以自由主义为导向的政治哲学认为，所有个体都应受到平等对待，而与其受保护特征无关。机器学习中的相关工作已将“平等对待”（equal treatment）的概念转化为“平等结果”（equal outcome）的术语，并将其度量为人称“人口统计奇偶”（demographic parity，亦称统计奇偶，statistical parity）的指标。我们的分析揭示，平等结果和平等待遇这两个概念存在分歧；因此，人口统计奇偶并不能忠实代表“平等对待”的概念。我们通过对以下方面的考量提出了平等对待的新形式化定义：(i) 考虑特征值对预测的影响，例如由 Shapley 值将预测分解到各特征上计算所得；(ii) 定义解释的分布；(iii) 比较具有不同受保护特征的人群之间的解释分布。我们展示了我们平等对待概念的理论性质，并设计了一种基于平等对待检查器 AUC 的分类器双样本检验。我们在合成数据和自然数据上研究了我们的平等对待形式化定义。我们发布了 explanationspace，一个带有方法与教程的开源 Python 包。
引用
@article{arxiv.2303.08040,
title = {Beyond Demographic Parity: Redefining Equal Treatment},
author = {Carlos Mougan and Laura State and Antonio Ferrara and Salvatore Ruggieri and Steffen Staab},
journal= {arXiv preprint arXiv:2303.08040},
year = {2023}
}