基于动态记忆学习的模型反演攻击
计算机视觉与模式识别
2023-09-04 v1
摘要
模型反演（MI）攻击旨在从目标模型中恢复私有训练数据，这引发了关于 DNN 实际部署的安全担忧。生成对抗模型的最新进展使其在 MI 攻击中特别有效，主要归因于其生成与目标数据高度相似、高保真且感知真实的图像的能力。在这项工作中，我们提出一种新颖的动态记忆模型反演攻击（DMMIA），以利用历史学习到的知识，这些知识在训练过程中与样本交互以诱导多样化生成。DMMIA 构建两类原型来注入历史学习知识的信息：类内多中心表示（IMR）通过多个可学习原型表示目标相关概念，类间判别表示（IDR）将记忆样本刻画为学习到的原型以捕获更多隐私相关信息。因此，我们的 DMMIA 具有信息更丰富的表示，从而带来更多样且更具判别性的生成结果。在多个基准上的实验表明，DMMIA 优于最先进的 MI 攻击方法。
引用
@article{arxiv.2309.00013,
title = {Model Inversion Attack via Dynamic Memory Learning},
author = {Gege Qi and YueFeng Chen and Xiaofeng Mao and Binyuan Hui and Xiaodan Li and Rong Zhang and Hui Xue},
journal= {arXiv preprint arXiv:2309.00013},
year = {2023}
}