差分隐私对群体差异缓解的影响
密码学与安全
2022-03-08 v1 计算与语言
机器学习
摘要
对于某些应用，差分隐私的性能代价已被证明对少数群体更高；反之，公平性已被证明会不成比例地损害此类群体成员的隐私。该领域多数工作局限于计算机视觉与风险评估。在本文中，我们跨四项任务评估差分隐私对公平性的影响，聚焦于缓解隐私侵犯与群体间性能差异的尝试如何相互作用：隐私是否会抑制确保公平性的努力？为此，我们用经验风险最小化与群体分布鲁棒训练目标训练 -差分隐私模型。与先前发现一致，我们发现基线设定下差分隐私增大了群体间性能差异；但更有趣的是，鲁棒设定下差分隐私减小了群体间性能差异。我们通过将差分隐私重新解释为正则化来解释这一现象。
引用
@article{arxiv.2203.02745,
title = {The Impact of Differential Privacy on Group Disparity Mitigation},
author = {Victor Petrén Bach Hansen and Atula Tejaswi Neerkaje and Ramit Sawhney and Lucie Flek and Anders Søgaard},
journal= {arXiv preprint arXiv:2203.02745},
year = {2022}
}