由 Wasserstein 距离引导的对抗性重加权用于偏差缓解
机器学习
2023-11-22 v1
摘要
样本总体中不同群体的不平等表征会导致机器学习模型在自动决策时对少数群体产生歧视。为解决这些问题，公平性感知机器学习联合优化两个(或更多)指标，旨在预测有效性和低不公平性。然而，数据中少数群体固有的代表性不足，使得子群体所受的差异对待在学习过程中较不显著且难以处理。本文中，我们提出一种新颖的对抗性重加权方法来解决此类表征偏差。为平衡多数群体与少数群体间的数据分布，我们的方法弱化来自多数群体的样本。为最小化经验风险，我们的方法偏好来自多数群体且与少数群体接近(由 Wasserstein 距离评估)的样本。我们的理论分析显示了该对抗性重加权方法的有效性。实验表明，我们的方法在不牺牲分类精度的前提下缓解了偏差，在图像和表格基准数据集上优于相关的最先进方法。
引用
@article{arxiv.2311.12684,
title = {Adversarial Reweighting Guided by Wasserstein Distance for Bias Mitigation},
author = {Xuan Zhao and Simone Fabbrizzi and Paula Reyero Lobo and Siamak Ghodsi and Klaus Broelemann and Steffen Staab and Gjergji Kasneci},
journal= {arXiv preprint arXiv:2311.12684},
year = {2023}
}