通过匹配实现公平性
人工智能
2025-01-07 v1 机器学习
机器学习
摘要
群体公平性要求由给定敏感属性所表征的不同受保护群体总体上获得相同的结果。通常,群体公平性的水平通过不同受保护群体预测结果之间的统计差距来衡量。本研究揭示了现有群体公平性度量中一个隐含的性质,从而深入理解群体公平模型的行为方式。在此基础上,我们基于该隐含性质提出了一种新的群体公平约束,用于学习群体公平模型。为此,我们首先给出一个重要的理论观察:每个群体公平模型都隐含地对应着各受保护群体输入空间之间的一个传输映射。基于这一观察,我们引入了一种新的群体公平性度量,称为匹配人口统计均等性(Matched Demographic Parity, MDP),它量化了由给定传输映射所匹配的两个个体(来自不同受保护群体)预测结果之间的平均差距。随后,我们证明任何传输映射都可用于 MDP 中以学习群体公平模型,并提出了一种新颖的算法——通过匹配实现公平性(FTM),该算法使用 MDP 约束结合用户指定的传输映射来学习群体公平模型。具体而言,我们基于最优传输理论提出了两种适用于 MDP 的理想传输映射,并讨论了它们的优势。实验表明,FTM 能够通过选择相应的传输映射,成功训练出具有特定理想性质的群体公平模型。
引用
@article{arxiv.2501.02793,
title = {Fairness Through Matching},
author = {Kunwoong Kim and Insung Kong and Jongjin Lee and Minwoo Chae and Sangchul Park and Yongdai Kim},
journal= {arXiv preprint arXiv:2501.02793},
year = {2025}
}
备注
Published in TMLR