极小极大 AUC 公平性：具有可证明收敛性的高效算法
机器学习
2022-11-30 v2 计算机与社会
机器学习
摘要
在重大决策中使用机器学习模型往往会加剧社会不平等，特别是对由种族和性别定义的边缘群体成员产生差异性影响。ROC 曲线下面积（AUC）被广泛用于评估机器学习中评分函数的性能，但在算法公平性方面受到的研究少于其他性能指标。由于 AUC 的成对性质，定义基于 AUC 的群体公平性度量依赖于成对关系，并可能涉及组内（intra-group）和组间（inter-group）AUC。重要的是，仅考虑一类 AUC 不足以缓解 AUC 优化中的不公平性。在本文中，我们提出了一种极小极大学习与偏差缓解框架，在保持效用的同时纳入组内和组间 AUC。基于这一罗尔斯式框架，我们设计了一种高效的随机优化算法，并证明其收敛到最小群体级 AUC。我们在合成和真实世界数据集上进行了数值实验，以验证该极小极大框架和所提优化算法的有效性。
引用
@article{arxiv.2208.10451,
title = {Minimax AUC Fairness: Efficient Algorithm with Provable Convergence},
author = {Zhenhuan Yang and Yan Lok Ko and Kush R. Varshney and Yiming Ying},
journal= {arXiv preprint arXiv:2208.10451},
year = {2022}
}