从功利主义到罗尔斯式的算法公平设计
计算机与社会
2023-02-08 v1 机器学习
摘要
文献中对于如何度量算法系统的“公平性”缺乏共识，且不同指标常相互冲突。本文借助功利主义与 John Rawls 的伦理框架来处理此问题。通俗地说，这两种分配正义理论分别将“善”度量为群体效用之和或最不利者的结果。我们提出一类参数化目标函数，可在这两个（可能）冲突的“善”概念间插值。该类被证明表示了对罗尔斯式“无知之幕”的松弛，且其最优解序列同时收敛于功利主义与罗尔斯式最优。我们研究了该类的若干其他性质，包括：1）与正则化优化的关系，2）一致估计的可行性，以及 3）算法代价。在多个真实数据集中，我们计算最优解并构建了功利主义与罗尔斯式“善”概念间的权衡。经验上，我们证明增加模型复杂度可同时带来两种“善”度量的严格改进。本工作表明，恰当的“公平”程度可由设计者在所诱导功利主义与罗尔斯式“善”空间上的偏好来定。
引用
@article{arxiv.2302.03567,
title = {From Utilitarian to Rawlsian Designs for Algorithmic Fairness},
author = {Daniel E. Rigobon},
journal= {arXiv preprint arXiv:2302.03567},
year = {2023}
}