FairIF：利用带验证集敏感属性的影响函数提升深度学习公平性
机器学习
2023-12-27 v2 计算机与社会
机器学习
摘要
大多数公平机器学习方法要么高度依赖训练样本的敏感信息，要么需要对目标模型进行大幅修改，这阻碍了它们的实际应用。为解决该问题，我们提出了一种名为FAIRIF的两阶段训练算法。该算法在重新加权数据集（第二阶段）上最小化损失，其中样本权重用于平衡不同人口群体间的模型表现（第一阶段）。FAIRIF可应用于由随机梯度下降训练的广泛模型而无需改变模型结构，且仅需在小验证集上标注群体信息即可计算样本权重。理论上，我们证明在分类设定下，不同群体间的三种差异度量可通过带权重训练得到缓解。在合成数据集上的实验表明，FAIRIF相较各类偏置取得了更优的公平-效用权衡；在真实数据集上，我们展示了FAIRIF的有效性与可扩展性。此外，预训练模型实验表明，FAIRIF能够在不损害性能的前提下缓解预训练模型的公平性问题。
引用
@article{arxiv.2201.05759,
title = {FairIF: Boosting Fairness in Deep Learning via Influence Functions with Validation Set Sensitive Attributes},
author = {Haonan Wang and Ziwei Wu and Jingrui He},
journal= {arXiv preprint arXiv:2201.05759},
year = {2023}
}