公平的测度与误测
计算机与社会
2023-08-31 v3
摘要
公平机器学习领域旨在确保由算法引导的决策是公平的。在过去十年中，若干形式化的数学公平性定义获得了突出地位。在此，我们首先将这些定义汇编并分类为两大族：（1）约束决策对差异影响的定义；以及（2）约束受法律保护的特性（如种族和性别）对决策影响的定义。我们随后从分析和经验上表明，这两族定义通常导致强帕累托占优的决策策略。例如，在大学招生案例中，遵循流行的形式化公平概念将同时导致相对于通过明确定制招生政策以实现期望结果所能达到的学生群体多样性更低和学术准备更差的班级。在这种意义上，要求这些公平性定义成立会反常地伤害它们旨在保护的群体。与公平性的公理化概念相反，我们认为算法的公平设计需要应对其特定情境的后果，类似于政策的公平设计。我们最后列举了公平机器学习中的若干开放挑战，并提供了确保算法更好地与政策目标对齐的策略。
引用
@article{arxiv.1808.00023,
title = {The Measure and Mismeasure of Fairness},
author = {Sam Corbett-Davies and Johann D. Gaebler and Hamed Nilforoshan and Ravi Shroff and Sharad Goel},
journal= {arXiv preprint arXiv:1808.00023},
year = {2023}
}