FairPOT: 在 AUC 性能与公平性之间通过比例最优传输进行平衡
机器学习
2025-08-14 v2 人工智能
计算机与社会
机器学习
摘要
利用受试者工作特征曲线下面积（AUC）的公平性指标在医疗、金融和刑事司法等高风险领域中日益受到关注。在这些领域中，公平性通常评估于风险得分而非二元结果，常见挑战在于严格强制公平性会显著降低 AUC 性能。为此，我们提出了公平比例最优传输（FairPOT），一种新型、模型无关的后处理框架，通过战略性地对不同群组间的风险得分分布进行对齐，但以选择性方式通过转换劣势群组中可控比例（即 top-lambda 分位）的得分来实现。通过变化 lambda，我们的方法允许在降低 AUC 差异和维持整体 AUC 性能之间实现可调的权衡。此外，我们将 FairPOT 扩展至部分 AUC 设置，使公平性干预能够集中于最高风险区域。大量在合成数据、公共数据和临床数据上的实验表明，FairPOT 在全局和部分 AUC 场景中均一致优于现有后处理技术，常常在轻微降低 AUC 或甚至提升效用方面实现改进的公平性。FairPOT 的计算效率和实际适用性使其成为实际部署的有前景的解决方案。
引用
@article{arxiv.2508.03940,
title = {FairPOT: Balancing AUC Performance and Fairness with Proportional Optimal Transport},
author = {Pengxi Liu and Yi Shen and Matthew M. Engelhard and Benjamin A. Goldstein and Michael J. Pencina and Nicoleta J. Economou-Zavlanos and Michael M. Zavlanos},
journal= {arXiv preprint arXiv:2508.03940},
year = {2025}
}