私有学习的不公平性有多高？
机器学习
2022-12-27 v2 密码学与安全
机器学习
摘要
随着机器学习算法在关键决策过程中部署于敏感数据，它们同时具备隐私性与公平性变得愈发重要。本文表明，当数据具有长尾结构时，不可能构建既私有又在少数群体子 population 上取得更高准确度的精确学习算法。我们进一步表明，放宽整体准确度即使在严格隐私要求下也能带来良好的公平性。为在实践上证实我们的理论结果，我们使用多种合成、视觉（CIFAR10和CelebA）和表格（Law School）数据集及学习算法提供了一组广泛的实验结果。
引用
@article{arxiv.2206.03985,
title = {How unfair is private learning ?},
author = {Amartya Sanyal and Yaxi Hu and Fanny Yang},
journal= {arXiv preprint arXiv:2206.03985},
year = {2022}
}
备注
Accepted as an Oral paper in UAI '2022, Major update on 23 Dec, 2022