通过极小极大F-散度正则化学习公平分类器

随着机器学习（ML）系统被应用于执法、刑事司法、金融、招聘和录取等领域，确保ML辅助决策的公平性变得愈发重要。本文关注公平分类问题，并引入了一种新颖的极小极大F-散度正则化框架，用于在保持高准确率的同时学习公平分类模型。我们的框架由两个可训练网络组成，即分类器网络和偏置/公平性估计网络，其中公平性使用F-散度的统计概念度量。我们证明了F-散度度量具有凸性和可微性性质，且其变分表示使其广泛适用于实际的基于梯度的训练方法。所提框架可轻松适配于多个敏感属性和高维数据集。我们研究了基于F-散度的训练范式针对两类群体公平约束，即人口均等与等化赔率。我们针对多个领域（包括COMPAS、法学院录取、成人收入及CelebA数据集）产生的若干真实世界数据集给出了一套全面的实验。为量化公平-准确率权衡，我们引入了公平-准确率受试者工作特征（FA-ROC）的概念及相应的“低偏置”FA-ROC，我们认为其是评估不同分类器的恰当度量。与若干现有公平分类器学习方法（包括预处理、后处理及其他正则化方法）相比，我们表明所提基于F-散度的框架在准确率与公平性权衡方面达到了最先进（SOTA）性能。