面向噪声受保护组的 AUC 公平性学习
机器学习
2025-05-27 v1
摘要
ROC 曲线下面积 (AUC) 是分类的关键指标，尤其在类别不平衡的情况下，越来越多的研究关注优化 AUC 而非准确率。在医学图像分析和深度伪造检测等应用中，公平性 AUC 优化变得至关重要，因为偏见可能影响受保护群体。虽然已存在各种公平性缓解技术，但 AUC 优化中的公平性考虑仍处于早期阶段，大多数研究聚焦于在干净受保护组假设下提升 AUC 公平性。然而，这些研究常常忽略噪声受保护组的影响，导致实际应用中出现公平性违规。为此，我们提出了首个在噪声受保护组下保持 AUC 公平性的鲁棒方法，通过分布鲁棒优化获得公平性理论保证。大量实验表明，在表格数据集和图像数据集上，我们的方法在保持 AUC 公平性方面优于最先进的方法。代码已公开于 https://github.com/Purdue-M2/AUC_Fairness_with_Noisy_Groups。
引用
@article{arxiv.2505.18532,
title = {Preserving AUC Fairness in Learning with Noisy Protected Groups},
author = {Mingyang Wu and Li Lin and Wenbin Zhang and Xin Wang and Zhenhuan Yang and Shu Hu},
journal= {arXiv preprint arXiv:2505.18532},
year = {2025}
}