深度学习中人口统计学群体公平性保证论述
机器学习
2026-03-03 v2 计算机与社会
摘要
我们提出了一个理论框架，用于分析数据分布与公平性保证之间的关系。我们建立了新的界限，考虑到不同人口统计学群体之间的分布异质性，推导了公平性误差和收敛速率界限，刻画了分布差异如何影响公平性-精度权衡。广泛的实验覆盖多种模态，包括FairVision、CheXpert、HAM10000、FairFace、ACS收入和CivilComments-WILDS，验证了我们的理论发现，表明不同人口统计学群体之间的特征分布差异显著影响模型公平性，在种族类别中差异尤为突出。受此启发，我们提出了公平性感知正则化 (FAR)，这是一种实际的训练目标，通过最小化不同群体中特征质心和协方差之间的差异来实现。FAR在所有数据集上都一致地提高了整体AUC、ES-AUC和亚群绩效。我们的工作促进了AI系统公平性的理论理解，为开发更公平的算法提供了基础。分析代码已公开发布于 https://github.com/Harvard-AI-and-Robotics-Lab/FairnessGuarantee。
引用
@article{arxiv.2412.20377,
title = {On Demographic Group Fairness Guarantees in Deep Learning},
author = {Yan Luo and Congcong Wen and Min Shi and Hao Huang and Yi Fang and Mengyu Wang},
journal= {arXiv preprint arXiv:2412.20377},
year = {2026}
}
备注
Accepted for publication in TPAMI 2026