自适应拉普拉斯机制：深度学习中的差分隐私保护
密码学与安全
2018-04-24 v2 机器学习
机器学习
摘要
本文致力于开发一种在深度神经网络中保护差分隐私的新机制，使得：(1) 隐私预算消耗完全独立于训练步数；(2) 能够根据每个特征对输出的贡献自适应地注入噪声；(3) 可应用于多种不同的深度神经网络。为此，我们找到了一种扰动深度神经网络中神经元仿射变换与损失函数的方法。此外，我们的机制会有意向“与模型输出相关性较低”的特征中注入“更多噪声”，反之亦然。我们的理论分析进一步推导了该机制的敏感度与误差界限。在 MNIST 和 CIFAR-10 数据集上进行的严格实验表明，我们的机制非常有效，且优于现有解决方案。
引用
@article{arxiv.1709.05750,
title = {Adaptive Laplace Mechanism: Differential Privacy Preservation in Deep Learning},
author = {NhatHai Phan and Xintao Wu and Han Hu and Dejing Dou},
journal= {arXiv preprint arXiv:1709.05750},
year = {2018}
}
备注
IEEE ICDM 2017 - regular paper