面向高效安全深度学习数据交付的隐私保护方案
密码学与安全
2019-09-18 v1 机器学习
摘要
隐私近期成为深度学习中的严峻关切,即在深度神经网络开发过程中,敏感数据必须禁止与第三方共享。本文提出 Morphed Learning(MoLe),一种高效且安全的交付深度学习数据的方案。MoLe 有两个主要组件:数据变形(Data morphing)与增强卷积(Augmented Convolutional, Aug-Conv)层。数据变形允许数据提供方发送不含隐私信息的变形数据,而 Aug-Conv 层帮助深度学习开发者在变形数据上应用其网络且不产生性能损失。与 GAZELLE(USENIX Security 2018,另一种对神经网络无性能损失的方案)相比,MoLe 在引入更低开销的同时提供了更强的安全性。当在 CIFAR 数据集上将 MoLe 用于 VGG-16 网络时,计算开销仅为 9%,数据传输开销为 5.12%。作为对比,GAZELLE 的计算开销为其 10,000 倍,数据传输开销为其 421,000 倍。在此设定下,对手对 MoLe 的攻击成功率为 7.9 x 10^{-90},对 GAZELLE 为 2.9 x 10^{-30}。
引用
@article{arxiv.1909.07632,
title = {Towards Efficient and Secure Delivery of Data for Deep Learning with Privacy-Preserving},
author = {Juncheng Shen and Juzheng Liu and Yiran Chen and Hai Li},
journal= {arXiv preprint arXiv:1909.07632},
year = {2019}
}