面向 corrupted 数据的公平性感知 PAC 学习
机器学习
2022-06-09 v3 机器学习
摘要
解决机器学习模型的公平性问题，是其在现实世界自动化系统中长期应用的关键一步。尽管已开发出许多从数据中训练公平模型的方法，但这些方法对数据损坏的鲁棒性仍鲜为人知。本文考虑最坏情况数据操纵下的公平性感知学习。我们表明，在某些情形下，无论样本量大小以及是否降低准确率，对手都能迫使任何学习器返回一个过度偏倚的分类器，且对于数据中受保护群体代表性不足的学习问题，额外偏倚的强度会增大。我们还证明了我们的困难结果在常数因子范围内是紧的。为此，我们研究了两种自然的学习算法，它们同时优化准确率和公平性，并表明这些算法在损坏比例和受保护群体频率的大数据极限方面享有阶最优的保证。
引用
@article{arxiv.2102.06004,
title = {Fairness-Aware PAC Learning from Corrupted Data},
author = {Nikola Konstantinov and Christoph H. Lampert},
journal= {arXiv preprint arXiv:2102.06004},
year = {2022}
}
备注
In Journal of Machine Learning Research (JMLR): http://jmlr.org/papers/v23/21-1189.html