差分隐私 Dropout
机器学习
2017-12-06 v1 机器学习
摘要
训练神经网络所需的大规模数据集合通常包含敏感信息，例如患者的病史，因此必须保护训练数据的隐私。在本文中，我们引入了一种 dropout 技术，为 dropout 提供了优雅的贝叶斯解释，并表明以正则化为主要目标而加入的内在噪声可被利用来获得一定程度的差分隐私。训练神经网络的迭代性质对隐私保护估计提出了挑战，因为多次迭代会增加所加入的噪声量。我们通过使用一种称为集中差分隐私的差分隐私放宽概念克服了这一问题，它给出了对总体隐私损失的更紧估计。我们在基准数据集上展示了我们隐私保护 dropout 算法的准确性。
引用
@article{arxiv.1712.01665,
title = {Differentially Private Dropout},
author = {Beyza Ermis and Ali Taylan Cemgil},
journal= {arXiv preprint arXiv:1712.01665},
year = {2017}
}
备注
arXiv admin note: text overlap with arXiv:1611.00340 by other authors