面向带噪声受保护群体的公平性鲁棒优化
机器学习
2020-11-11 v3 机器学习
摘要
许多现有的机器学习公平性准则涉及在受保护群体（如种族或性别）间均衡某一指标。然而，试图审计或执行此类基于群体准则的从业者很容易面临受保护群体信息有噪声或偏倚的问题。首先，我们研究了朴素地依赖有噪声受保护群体标签的后果：当公平性准则在有噪声群体 上满足时，我们给出了真实群体 G 上公平性违背的上界。其次，我们引入了两种使用鲁棒优化的新方法，与仅依赖 的朴素方法不同，它们保证在真实受保护群体 G 上满足公平性准则，同时最小化训练目标。我们提供了理论保证，表明其中一种方法收敛到最优可行解。通过两个案例研究，我们从经验上表明，鲁棒方法比朴素方法实现了更好的真实群体公平性保证。
引用
@article{arxiv.2002.09343,
title = {Robust Optimization for Fairness with Noisy Protected Groups},
author = {Serena Wang and Wenshuo Guo and Harikrishna Narasimhan and Andrew Cotter and Maya Gupta and Michael I. Jordan},
journal= {arXiv preprint arXiv:2002.09343},
year = {2020}
}
备注
To appear at 34th Conference on Neural Information Processing Systems (NeurIPS 2020); first two authors contributed equally to this work