机器学习中程序公平性及其与分配公平性的关系
机器学习
2025-01-14 v1 计算机与社会
摘要
近年来，机器学习（ML）中的公平性问题受到了广泛关注。尽管现有研究主要关注ML模型的分配公平性，但对程序公平性的探索十分有限。本文提出了一种在模型训练阶段实现程序公平性的新方法。通过在一个合成数据集和六个真实世界数据集上进行的实验，验证了所提方法的有效性。此外，本研究探讨了ML模型中程序公平性与分配公平性之间的关系。一方面，考察了数据集偏差和ML模型的程序公平性对其分配公平性的影响。结果突显了数据集偏差和程序公平性对分配公平性的显著影响。另一方面，分析了优化程序公平性指标与分配公平性指标之间的区别。实验结果表明，优化程序公平性指标能够减轻由决策过程引入或放大的偏差，从而确保决策过程本身的公平性，并提升分配公平性。相比之下，优化分配公平性指标会促使ML模型的决策过程偏向弱势群体，以抵消数据集中对优势群体固有的偏好，最终实现分配公平性。
引用
@article{arxiv.2501.06753,
title = {Procedural Fairness and Its Relationship with Distributive Fairness in Machine Learning},
author = {Ziming Wang and Changwu Huang and Ke Tang and Xin Yao},
journal= {arXiv preprint arXiv:2501.06753},
year = {2025}
}
备注
33 pages, 11 figures