通过社会福利优化评估群体公平性
人工智能
2024-05-21 v1 计算机与社会
计算机科学与博弈论
摘要
统计均等指标作为实现公平性的手段在AI社区得到了广泛研究和认可，但它们至少存在两个弱点。它们忽视了决策的实际福利后果，因此可能无法实现弱势群体所期望的那种公平性。此外，它们往往彼此不相容，并且没有令人信服的理由来选择其中一个而非另一个。本文探讨了基于优化社会福利函数（SWF）的更广泛的社会正义概念是否有助于评估各种均等定义。我们关注著名的alpha公平性SWF，该函数在过去70年中通过公理化和讨价还价论证得到了辩护。我们分析了最优解，并表明它在某些条件下可以证明人口均等或均等化几率是合理的，但通常需要偏离这些类型的均等。此外，我们发现预测率均等的实用性有限。这些结果表明，优化理论可以为AI中如何实现群体公平性这一激烈讨论的问题提供启示。
引用
@article{arxiv.2405.11421,
title = {Assessing Group Fairness with Social Welfare Optimization},
author = {Violet Chen and J. N. Hooker and Derek Leben},
journal= {arXiv preprint arXiv:2405.11421},
year = {2024}
}