中文

即插即用攻击:面向鲁棒且灵活的模型反演攻击

机器学习 2022-06-10 v4 人工智能 计算机视觉与模式识别

摘要

模型反演攻击(MIAs)旨在利用目标分类器学到的知识,生成能够反映其私有训练数据中按类别特征的综合图像。以往研究开发了使用生成对抗网络(GANs)作为针对特定目标模型定制的图像先验的生成式 MIAs。这使得攻击耗时耗力、缺乏灵活性,且易受数据集间分布偏移的影响。为克服这些缺陷,我们提出即插即用攻击(Plug & Play Attacks),其放宽了目标模型与图像先验之间的依赖关系,使得单个 GAN 可用于攻击广泛的目标,仅需对攻击做微小调整。此外,我们表明即便使用公开可用的预训练 GANs 且在强分布偏移下,强大的 MIAs 仍有可能实现,而以往方法在此情形下无法产生有意义的结果。我们广泛的评估证实了即插即用攻击改进的鲁棒性与灵活性,以及其生成揭示敏感类别特征的高质量图像的能力。

关键词

引用

@article{arxiv.2201.12179,
  title  = {Plug & Play Attacks: Towards Robust and Flexible Model Inversion Attacks},
  author = {Lukas Struppek and Dominik Hintersdorf and Antonio De Almeida Correia and Antonia Adler and Kristian Kersting},
  journal= {arXiv preprint arXiv:2201.12179},
  year   = {2022}
}

备注

Accepted by ICML 2022