通过对抗重加权学习实现无人口统计信息的公平性
机器学习
2020-11-04 v3 机器学习
摘要
以往多数机器学习（ML）公平性文献假设数据集中存在种族、性别等受保护特征，并依赖它们来缓解公平性担忧。然而在实践中，隐私与监管等因素常阻碍受保护特征的收集或其用于训练与推断，严重限制了传统公平性研究的适用性。因此我们提出：在甚至不知受保护群体成员关系的情况下，如何训练 ML 模型以改善公平性？本工作中我们通过提出对抗重加权学习（ARL）来解决该问题。具体而言，我们假设非受保护特征与任务标签对识别公平性问题具有价值，并可用于协同训练一种对抗重加权方法以改善公平性。我们的结果表明，ARL 改善了罗尔斯式最大最小公平性，在多个数据集中最差受保护群体的 AUC 有显著提升，优于最先进的替代方法。
引用
@article{arxiv.2006.13114,
title = {Fairness without Demographics through Adversarially Reweighted Learning},
author = {Preethi Lahoti and Alex Beutel and Jilin Chen and Kang Lee and Flavien Prost and Nithum Thain and Xuezhi Wang and Ed H. Chi},
journal= {arXiv preprint arXiv:2006.13114},
year = {2020}
}
备注
To appear at 34th Conference on Neural Information Processing Systems (NeurIPS 2020), Vancouver, Canada