面向机密外包学习的图像伪装方法比较研究
密码学与安全
2023-01-03 v1 机器学习
摘要
大规模训练数据与昂贵的模型调优是图像深度学习的典型特征。因此，数据所有者常利用云资源开发大规模复杂模型，这引发了隐私担忧。现有方案要么过于昂贵而不实用，要么不能充分保护数据与模型的机密性。本文研究并比较了新颖的\emph{图像伪装}机制 DisguisedNets 与 InstaHide，旨在外包 DNN 模型训练的保护级别、开销与数据效用之间取得更好权衡。DisguisedNets 是图像分块化、块级随机置换与两种块级安全变换——随机多维投影（RMT）与 AES 像素级加密（AES）——的新颖组合。InstaHide 是一种图像混合与随机像素翻转技术 \cite{huang20}。我们在多级威胁模型下对其进行分析与评估。在保持模型质量良好的 Level-1 对抗知识下，RMT 比 InstaHide 提供更好的安全保证。相比之下，AES 在 Level-2 对抗知识下提供安全保证，但可能对模型质量影响更大。图像伪装的独特特征也助我们保护模型免受模型定向攻击。我们进行了广泛的实验评估，以理解这些方法在不同设置、不同数据集下的表现。
引用
@article{arxiv.2301.00252,
title = {A Comparative Study of Image Disguising Methods for Confidential Outsourced Learning},
author = {Sagar Sharma and Yuechun Gu and Keke Chen},
journal= {arXiv preprint arXiv:2301.00252},
year = {2023}
}