在卷积深度置信网络中保持差分隐私
机器学习
2018-04-24 v2 机器学习
摘要
深度学习在医疗和健康领域的显著发展带来了明显的隐私问题，因为深度神经网络建立在用户的个人和高度敏感数据之上，例如临床记录、用户画像、生物医学图像等。然而，关于在深度学习中保护隐私的科学研究仅有少数。在本文中，我们专注于开发一种私有卷积深度置信网络（pCDBN），其本质上是差分隐私下的卷积深度置信网络（CDBN）。我们实施ε-差分隐私的主要思路是利用函数机制扰动传统 CDBN 基于能量的目标函数，而非扰动其结果。本工作的一个关键贡献是，我们提出使用切比雪夫展开来推导目标函数的近似多项式表示。我们的理论分析表明，我们可以进一步推导出该近似多项式表示的敏感度和误差界。因此，在 CDBN 中保持差分隐私是可行的。我们将模型应用于一个健康社交网络（即 YesiWell 数据）和一个手写数字数据集（即 MNIST 数据），用于人类行为预测、人类行为分类和手写数字识别任务。理论分析和严格的实验评估表明，pCDBN 非常有效，显著优于现有解决方案。
引用
@article{arxiv.1706.08839,
title = {Preserving Differential Privacy in Convolutional Deep Belief Networks},
author = {NhatHai Phan and Xintao Wu and Dejing Dou},
journal= {arXiv preprint arXiv:1706.08839},
year = {2018}
}