差分隐私能否切实保护物联网的协作式深度学习推理?
密码学与安全
2022-11-22 v2
摘要
协作式推理近期作为一种有吸引力的框架兴起,通过将 DNN 模型拆分为若干子模型分布于资源受限的物联网(IoT)设备与云端之间,以将深度学习应用于 IoT 应用。然而,近期提出的重构攻击可从协作式推理中本地模型产生的中间输出恢复原始输入图像。为解决此类隐私问题,一种有前景的技术是采用差分隐私,以较小的精度损失保护中间输出。本文提供首项系统性研究,揭示差分隐私针对重构攻击在协作式推理中有效性的见解。我们具体探究了三种协作式推理模型在四个数据集(SVHN、GTSRB、STL-10 和 CIFAR-10)上的隐私-精度权衡。实验分析表明,当数据集在外观上具有较小的类内差异时,差分隐私可实际应用于协作式推理。借助我们研究中(经验上)优化的隐私预算参数,差分隐私技术在 SVHN、GTSRB、STL-10 和 CIFAR-10 数据集上分别仅引入 0.476%、2.066%、5.021% 和 12.454% 的精度损失,同时挫败了重构攻击。
引用
@article{arxiv.2104.03813,
title = {Can Differential Privacy Practically Protect Collaborative Deep Learning Inference for the Internet of Things?},
author = {Jihyeon Ryu and Yifeng Zheng and Yansong Gao and Sharif Abuadbba and Junyaup Kim and Dongho Won and Surya Nepal and Hyoungshick Kim and Cong Wang},
journal= {arXiv preprint arXiv:2104.03813},
year = {2022}
}
备注
Accepted in Wireless Networks