分布偏移下追求公平性：一种模型权重扰动方法
机器学习
2023-10-24 v2 计算机与社会
摘要
机器学习中的公平性近年来引起了越来越多的关注。那些针对分布内数据改善算法公平性的方法在分布偏移下可能表现不佳。在本文中，我们首先从理论上传示了分布偏移、数据扰动与模型权重扰动之间的内在联系。随后，我们分析了保证目标数据集公平性（即低人口均等差异）的充分条件，包括源数据集的公平性，以及每个敏感属性组上源数据集与目标数据集之间较低的预测差异。受这些充分条件的启发，我们提出了鲁棒公平性正则化（RFR），通过对每个敏感属性组在模型权重扰动球内考虑最坏情况来实现。我们在多个数据集上的合成与真实分布偏移上评估了所提出的 RFR 算法的有效性。实验结果表明，与若干基线方法相比，RFR 取得了更好的公平性-准确率权衡性能。源代码可在 \url{https://github.com/zhimengj0326/RFR_NeurIPS23} 获取。
引用
@article{arxiv.2303.03300,
title = {Chasing Fairness Under Distribution Shift: A Model Weight Perturbation Approach},
author = {Zhimeng Jiang and Xiaotian Han and Hongye Jin and Guanchu Wang and Rui Chen and Na Zou and Xia Hu},
journal= {arXiv preprint arXiv:2303.03300},
year = {2023}
}
备注
NeurIPS 2023