探索DP-SGD在不同设定下的不公平性
机器学习
2022-02-25 v1 计算与语言
摘要
终端用户与监管机构需要兼具隐私与公平的AI模型,但先前工作表明这些目标可能相互冲突。我们使用CivilComments数据集评估应用隐私的事实标准方法DP-SGD在若干公平性度量上的影响。我们评估了DP-SGD的三种实现:用于降维(PCA)、线性分类(逻辑回归)和鲁棒深度学习(Group-DRO)。我们确立了在线性分类与鲁棒深度学习情形下隐私与公平之间的负对数相关关系。DP-SGD对PCA的公平性无显著影响,但经检视,其似乎也未产生私有表示。
引用
@article{arxiv.2202.12058,
title = {Exploring the Unfairness of DP-SGD Across Settings},
author = {Frederik Noe and Rasmus Herskind and Anders Søgaard},
journal= {arXiv preprint arXiv:2202.12058},
year = {2022}
}
备注
6 pages, 3 figures, https://aaai-ppai22.github.io/