Roulette:一种面向深度学习分类任务语义隐私保护的设备-边缘协同推理框架
机器学习
2023-09-07 v1 人工智能
密码学与安全
分布式、并行与集群计算
摘要
深度学习分类器在人工智能时代至关重要。基于设备-边缘的协同推理已被广泛采用作为促进其在物联网和 5G/6G 网络中应用的高效框架。然而,它在非独立同分布数据分布下遭受精度下降和隐私泄露。对于精度下降,直接使用迁移学习和拆分学习成本高且仍存在隐私问题。对于隐私泄露,基于密码学的方法导致巨大开销。其他轻量方法假设真实标签是非敏感的且可被暴露。但对于许多应用,真实标签是用户的关键隐私敏感信息。在本文中,我们提出 Roulette 框架,这是一个面向任务的语义隐私保护协同推理框架,用于深度学习分类器。除输入数据外,我们将数据的真实标签视为私有信息。我们开发了一种新颖的拆分学习范式,其中后端 DNN 被冻结,前端 DNN 被重新训练以同时作为特征提取器和加密器。此外,我们提供差分隐私保证并分析真实标签推断攻击的困难性。为验证所提 Roulette,我们使用真实数据集进行了广泛的性能评估,表明 Roulette 能有效防御各种攻击同时取得良好模型精度。在非独立同分布非常严重的情况下,Roulette 相较基准平均提升推理精度 21%,同时使判别攻击的精度几乎等同于随机猜测。
引用
@article{arxiv.2309.02820,
title = {Roulette: A Semantic Privacy-Preserving Device-Edge Collaborative Inference Framework for Deep Learning Classification Tasks},
author = {Jingyi Li and Guocheng Liao and Lin Chen and Xu Chen},
journal= {arXiv preprint arXiv:2309.02820},
year = {2023}
}