基于纳什议价的公平性感知元学习
机器学习
2024-06-12 v1
摘要
为解决机器学习中的群体级公平性问题，一种自然的做法是根据特定的公平目标对敏感属性验证集上的模型参数进行调整。这种调整过程可在元学习框架中实现。然而，纯粹的公平目标通过元学习集成会导致子群的超梯度冲突，导致收敛不稳定，妥协模型性能和公平性。为解决这一问题，我们将超梯度冲突的解决框架定为多玩家合作议价游戏。我们引入两个阶段的元学习框架，其中第一阶段使用纳什议价解(NBS)解决超梯度冲突，引导模型走向帕累托前沿；第二阶段针对特定的公平目标进行优化。我们的方法得到理论支持，包括一个无需线性独立假设的 NBS 梯度聚合证明、帕累托改进证明以及验证损失单调改进的证明。我们还在六个关键公平数据集和两个图像分类任务上展示了各类公平目标的实证效果。
引用
@article{arxiv.2406.07029,
title = {Fairness-Aware Meta-Learning via Nash Bargaining},
author = {Yi Zeng and Xuelin Yang and Li Chen and Cristian Canton Ferrer and Ming Jin and Michael I. Jordan and Ruoxi Jia},
journal= {arXiv preprint arXiv:2406.07029},
year = {2024}
}