差分隐私下公平性概念的实证分析
机器学习
2024-11-01 v2
摘要
近期研究表明，使用差分隐私随机梯度下降（DP-SGD）在给定隐私预算下实现最佳效用，需要选择适合差分隐私设置的最优模型架构（Tramer and Boneh 2020; Cheng et al. 2022）。鉴于这些发现，我们实证分析了当选择为效用优化且适合 DP-SGD 的模型架构时，属于不同统计公平性准则类别（独立性、分离性和充分性）的不同公平性概念如何受到影响。使用机器学习公平性文献中的标准数据集，我们通过严格的实验协议表明，与同样选择最优模型架构以最大化效用的非隐私基线相比，通过为 DP-SGD 选择最优模型架构，各群体之间在相关公平性指标（人口统计平权、均等赔率和预测平权）上的差异往往会减小或受到的影响可忽略不计。这些发现挑战了差分隐私必然会加剧在偏置数据集上训练的深度学习模型不公平性的观点。
引用
@article{arxiv.2302.02910,
title = {An Empirical Analysis of Fairness Notions under Differential Privacy},
author = {Anderson Santana de Oliveira and Caelin Kaplan and Khawla Mallat and Tanmay Chakraborty},
journal= {arXiv preprint arXiv:2302.02910},
year = {2024}
}
备注
Accepted for oral presentation at the The Fourth AAAI Workshop on Privacy-Preserving Artificial Intelligence (PPAI-23) https://aaai-ppai23.github.io/#accepted_papers