面向机器学习的贝叶斯差分隐私
机器学习
2020-08-21 v5 密码学与安全
机器学习
摘要
传统差分隐私与数据分布无关。然而，这与现代机器学习语境并不契合，因为模型是在特定数据上训练的。因此，在机器学习中取得有意义的隐私保证往往会过度降低准确率。我们提出贝叶斯差分隐私（BDP），其考虑数据分布以提供更实用的隐私保证。我们还基于著名的矩会计法（moments accountant）推导了BDP下的通用隐私计量方法。我们的实验表明，在经典机器学习数据集（如MNIST和CIFAR-10）中，分布内样本享有比DP所假定显著更强的隐私保证，同时模型保持较高的分类准确率。
引用
@article{arxiv.1901.09697,
title = {Bayesian Differential Privacy for Machine Learning},
author = {Aleksei Triastcyn and Boi Faltings},
journal= {arXiv preprint arXiv:1901.09697},
year = {2020}
}
备注
International Conference on Machine Learning (ICML 2020). 15 pages, 5 figures, 1 table