救援中的隐私：深度模型中隐私为何脆弱的新证词
密码学与安全
2020-01-03 v1 机器学习
摘要
深度学习模型巨大的计算需求与边缘设备有限的计算资源，要求通过将深度模型拆分为两半来实现边缘设备与云服务之间的协作。然而，在边缘设备与云服务之间传输部分模型的中间结果会使用户隐私面临泄露风险，因为攻击者可以拦截中间结果并从中提取隐私信息。现有研究工作所依赖的度量标准在上述场景中要么不切实际，要么不足以衡量隐私保护方法的有效性，尤其是从单个用户的角度。本文中，我们首先给出了运行 DNN 模型的边云系统中隐私保护问题的形式化定义。随后，我们分析了最先进的方法并指出其缺陷，特别是互信息（MI）等评估度量。此外，我们进行了若干实验以表明，尽管现有方法在 MI 下表现良好，但它们不足以保护单个用户的隐私。为弥补评估度量的缺陷，我们提出了两个更准确衡量隐私保护方法有效性的新度量。最后，我们强调了若干潜在研究方向，以鼓励未来解决隐私保护问题的努力。
引用
@article{arxiv.2001.00493,
title = {Privacy for Rescue: A New Testimony Why Privacy is Vulnerable In Deep Models},
author = {Ruiyuan Gao and Ming Dun and Hailong Yang and Zhongzhi Luan and Depei Qian},
journal= {arXiv preprint arXiv:2001.00493},
year = {2020}
}