FIFA：在不平衡数据训练的分类器中使公平性更具泛化能力
机器学习
2022-06-08 v1 人工智能
计算机视觉与模式识别
计算机与社会
机器学习
摘要
算法公平性在机器学习中起着重要作用，在学习过程中施加公平性约束是一种常见的方法。然而，许多数据集在某些标签类别（例如“健康”）和敏感子群体（例如“老年患者”）中是不平衡的。经验表明，这种不平衡不仅导致分类缺乏泛化能力，也导致公平性属性缺乏泛化能力，在过参数化模型中尤为如此。例如，公平性感知训练可能会确保训练数据上的均等机会 (EO)，但 EO 在新用户上远未得到满足。在本文中，我们提出了一种理论上有原则且灵活的方法，即不平衡-公平性感知 (FIFA)。具体而言，FIFA 同时促进分类和公平性的泛化，并且可以灵活地与许多现有的基于 logits 损失的公平学习方法相结合。虽然我们的主要关注点是 EO，但 FIFA 可以直接应用于实现机会均等 (EqOpt)；在特定条件下，它也可以应用于其他公平性概念。我们通过将 FIFA 与一种流行的公平分类算法相结合来展示其能力，所得算法在多个真实世界数据集上实现了显著更好的公平性泛化。
引用
@article{arxiv.2206.02792,
title = {FIFA: Making Fairness More Generalizable in Classifiers Trained on Imbalanced Data},
author = {Zhun Deng and Jiayao Zhang and Linjun Zhang and Ting Ye and Yates Coley and Weijie J. Su and James Zou},
journal= {arXiv preprint arXiv:2206.02792},
year = {2022}
}