伪装网络：面向隐私保护外包深度学习的图像伪装
机器学习
2019-04-22 v2 密码学与安全
计算机视觉与模式识别
机器学习
摘要
深度学习模型开发者常使用云 GPU 资源来试验需要昂贵配置的大型数据和模型，然而该做法引发了隐私担忧。攻击者可能感兴趣于：1）训练图像中编码的个人身份信息或物体，以及 2）用敏感数据训练的模型以发起基于模型的攻击。从加密数据学习深度神经网络（DNN）因训练数据庞大且学习过程昂贵而仍不实用。近期少数研究试图为外包深度学习中的数据隐私提供高效、实用的保护方案，但我们发现它们在特定攻击下存在脆弱性。本文具体识别出两类针对外包深度学习的独特攻击：1）对训练数据的视觉重识别攻击，以及 2）对学习模型的类成员推断攻击，二者可攻破现有隐私保护方案。我们提出一种图像伪装方法来应对这些攻击，并设计了一套方法来评估外包深度学习隐私保护方案的攻击抵御水平。实验结果表明，我们的图像伪装机制在仍能生成高质量图像分类 DNN 模型的同时，可对这两类攻击提供高度保护。
引用
@article{arxiv.1902.01878,
title = {Disguised-Nets: Image Disguising for Privacy-preserving Outsourced Deep Learning},
author = {Sagar Sharma and Keke Chen},
journal= {arXiv preprint arXiv:1902.01878},
year = {2019}
}