公平性感知分类器的最大局部不平等性
机器学习
2024-06-06 v1
摘要
公平性已成为可信赖机器学习算法开发的关键方面。当前用于衡量人口公平违反程度的公平指标存在以下缺点: (i) 两个群体之间模型预测平均差异无法反映其分布不平等, 且 (ii) 沿所有可能预测的总体计算掩盖了在特定预测或其附近的极端局部不平等。在本文中, 我们提出了一种新型公平指标,称为 Maximal Cumulative ratio Disparity along varying Predictions' neighborhood (MCDP), 用于衡量公平性感知分类器的最大局部不平等性。为准确且高效地计算 MCDP, 我们开发了一种可保证准确性的算法和一种近似计算算法, 大幅降低了计算复杂度且估计误差较小。我们进一步提出了一种基于 MCDP 可微近似的双层优化算法, 用于提高算法的公平性。在表格和图像数据集上的大量实验表明, 我们的公平训练算法能够在公平性和准确性之间实现优越的权衡。
引用
@article{arxiv.2406.03255,
title = {On the Maximal Local Disparity of Fairness-Aware Classifiers},
author = {Jinqiu Jin and Haoxuan Li and Fuli Feng},
journal= {arXiv preprint arXiv:2406.03255},
year = {2024}
}