算法决策中群体公平性的强制实施：充分性约束下的效用最大化
计算机与社会
2022-06-07 v1 机器学习
摘要
二分类决策分类器默认并不具备公平性。公平性要求是决策依据的一项附加要素，而决策依据通常由最大化某种效用函数所驱动。在此意义上，算法公平性可表述为一个约束优化问题。本文针对如何实现公平性展开讨论，聚焦于正预测值(PPV)均等、假遗漏率(FOR)均等以及充分性(结合前两者)等公平性概念。我们证明，类似于其他群体公平性准则的已知结果，群体特定的阈值规则对于 PPV 均等和 FOR 均等是最优的。然而，取决于潜在群体分布与效用函数，我们发现有时对一个群体施加上限阈值规则是最优的：因此在 PPV 均等(或 FOR 均等)下的效用最大化可能导致选取该群体中效用最小的个体，而非最有前景的个体。这一结果有违直觉，且与统计均等和机会均等的类似解形成对比。我们还给出了满足充分性公平性约束的最优决策规则之解。我们表明需要更为复杂的决策规则，且除一个群体外其余所有群体都会因此产生群体内不公平。我们基于模拟与真实数据对所获发现进行了说明。
引用
@article{arxiv.2206.02237,
title = {Enforcing Group Fairness in Algorithmic Decision Making: Utility Maximization Under Sufficiency},
author = {Joachim Baumann and Anikó Hannák and Christoph Heitz},
journal= {arXiv preprint arXiv:2206.02237},
year = {2022}
}
备注
14 pages, accepted to ACM FAccT 2022, code available on GitHub: https://github.com/joebaumann/fair-prediction-based-decision-making