DeepObfuscator：通过智能手机上隐私保护对抗学习混淆中间表示
密码学与安全
2021-05-07 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
深度学习已广泛应用于众多计算机视觉应用并取得显著成功。然而，由于计算资源限制，在移动设备上运行深度学习模型通常具有挑战性。一种流行的替代方案是使用云服务运行深度学习模型来处理原始数据。但这带来了隐私风险。一些先前工作提出将原始数据提取的特征发送至云端。不幸的是，这些提取的特征仍可能被攻击者利用以恢复原始图像并推断嵌入的私有属性。本文提出一种对抗训练框架DeepObfuscator，其阻止利用这些特征重建原始图像和推断私有属性，同时保留用于预期云服务的有用信息。DeepObfuscator包含一个可学习的混淆器，通过执行我们提出的对抗训练算法来隐藏特征中与隐私相关的敏感信息。该算法通过模拟攻击者（竭力从提取特征重建原始图像并推断私有属性）与防御者（旨在保护用户隐私）之间的博弈而设计。通过在智能手机上部署训练好的混淆器，可本地提取特征再发送至云端。我们在CelebA和LFW数据集上的实验表明，从原始图像混淆特征重建图像的质量在多尺度结构相似性上从0.9458急剧降至0.3175。因此重建图像中的人物几乎无法被重新识别。攻击者所能达到的推断私有属性分类准确率显著降低至随机猜测水平。
引用
@article{arxiv.1909.04126,
title = {DeepObfuscator: Obfuscating Intermediate Representations with Privacy-Preserving Adversarial Learning on Smartphones},
author = {Ang Li and Jiayi Guo and Huanrui Yang and Flora D. Salim and Yiran Chen},
journal= {arXiv preprint arXiv:1909.04126},
year = {2021}
}
备注
This paper is to be published in IoTDI'21