面向公平监督学习的损失均衡
机器学习
2023-11-08 v1 人工智能
摘要
监督学习模型已应用于借贷、大学招生、人脸识别、自然语言处理等多个领域。然而，它们可能从训练数据中继承既有的偏见，并对受保护的社会群体表现出歧视。人们已提出多种公平性概念来解决不公平问题。本文关注均衡损失（Equalized Loss, EL）这一公平性概念，它要求不同群体的期望损失（近似）相等。即便损失函数是凸的，在训练过程中施加 EL 约束也会导致非凸优化问题，且现有的公平学习算法无法恰当地用于在该 EL 约束下寻找公平预测器。本文提出一种算法，可利用现成的凸规划工具（如 CVXPY）高效求解这个非凸优化的全局最优解。具体而言，我们提出 ELminimizer 算法，通过将非凸优化化简为一系列凸优化问题，在 EL 下找到最优公平预测器。我们从理论上证明，在特定条件下我们的算法能找到全局最优解。随后，我们通过若干实证研究支撑了理论结果。
引用
@article{arxiv.2311.03714,
title = {Loss Balancing for Fair Supervised Learning},
author = {Mohammad Mahdi Khalili and Xueru Zhang and Mahed Abroshan},
journal= {arXiv preprint arXiv:2311.03714},
year = {2023}
}
备注
This paper has been published in the Fortieth International Conference on Machine Learning (ICML 2023)