审计差分隐私机器学习：差分隐私 SGD 到底有多私密？
密码学与安全
2020-06-16 v1 机器学习
摘要
我们研究差分隐私 SGD 在实践中是否提供了比其最先进分析所保证的更好的隐私性。我们通过新颖的数据投毒攻击来进行研究，并证明这些攻击对应于现实的隐私攻击。虽然先前的工作（Ma 等人，arXiv 2019）提出了差分隐私与数据投毒之间的这种联系，作为对数据投毒的一种防御，但我们将其用作理解特定机制隐私性的工具是新颖的。更一般地，我们的工作采用了一种定量的、经验性的方法来理解差分隐私算法的特定实现所提供的隐私性，我们相信这种方法有潜力补充并影响差分隐私的分析性工作。
引用
@article{arxiv.2006.07709,
title = {Auditing Differentially Private Machine Learning: How Private is Private SGD?},
author = {Matthew Jagielski and Jonathan Ullman and Alina Oprea},
journal= {arXiv preprint arXiv:2006.07709},
year = {2020}
}