你的公平性有多鲁棒？在未见分布偏移下评估与维持公平性
机器学习
2022-07-05 v1
摘要
近年来，关于深度学习公平性的担忧日益增加。现有的公平性感知机器学习方法主要关注分布内数据的公平性。然而，在真实世界应用中，训练与测试数据之间存在分布偏移是常见现象。在本文中，我们首先表明现有方法所实现的公平性可被轻微的分布偏移轻易破坏。为解决该问题，我们提出一种称为曲率匹配（CUMA）的新型公平性学习方法，其能够实现可泛化至具有未知分布偏移的未见域的鲁棒公平性。具体而言，CUMA 通过匹配多数组与少数组的损失曲率分布，强制模型在两组上具有相似的泛化能力。我们在三个流行的公平性数据集上评估了我们的方法。与现有方法相比，CUMA 在未见分布偏移下实现了更优的公平性，且不牺牲整体准确率或分布内公平性。
引用
@article{arxiv.2207.01168,
title = {How Robust is Your Fairness? Evaluating and Sustaining Fairness under Unseen Distribution Shifts},
author = {Haotao Wang and Junyuan Hong and Jiayu Zhou and Zhangyang Wang},
journal= {arXiv preprint arXiv:2207.01168},
year = {2022}
}
备注
Preprint. Under review