深入探讨 GAN 先验：利用中间特征提升模型反演攻击
计算机视觉与模式识别
2024-09-16 v4
摘要
模型反演（MI）攻击旨在通过利用输出信息从公开的模型重建出隐私敏感的训练数据，引发了关于深度神经网络（DNN）安全的广泛关注。最近在生成对抗网络（GANs）方面的进展显著提升了 MI 攻击的性能，因为其强大的能力能够以高保真度和恰当语义生成逼真的图像。然而，之前的 MI 攻击仅在 GAN 先验的潜在空间中揭示私人信息，限制了其语义提取和在多个目标模型和数据集之间的可迁移性。为解决这一挑战，我们提出了一种新方法，即中间特征增强生成模型反演（IF-GMI），该方法拆解 GAN 结构并利用中间块之间的特征。这使我们能够将优化空间从潜在代码扩展到具有增强表达能力的中间特征。为防止 GAN 先验生成不真实的图像，我们对优化过程应用了 L1 球约束。在多个基准测试上的实验表明，我们的方法在各种设置下均显著优于以前的方法，尤其在越样本（OOD）场景下实现了最好的结果。我们的代码可在 https://github.com/final-solution/IF-GMI 上获得。
引用
@article{arxiv.2407.13863,
title = {A Closer Look at GAN Priors: Exploiting Intermediate Features for Enhanced Model Inversion Attacks},
author = {Yixiang Qiu and Hao Fang and Hongyao Yu and Bin Chen and MeiKang Qiu and Shu-Tao Xia},
journal= {arXiv preprint arXiv:2407.13863},
year = {2024}
}
备注
ECCV 2024