注意力空间上多样化生成扰动以实现可迁移对抗攻击
计算机视觉与模式识别
2022-12-05 v2
摘要
具有更高可迁移性（即在已知模型上构造的对抗样本也能欺骗未知模型的能力）的对抗攻击因其实用性近期备受关注。然而，现有的可迁移攻击以确定性方式构造扰动，往往未能充分探索损失曲面，从而陷入不良的局部最优并遭受低可迁移性。为解决此问题，我们提出注意力多样性攻击（ADA），其以随机方式破坏多样化的显著特征以提升可迁移性。主要地，我们扰动图像注意力以破坏不同模型共享的通用特征。然后，为有效避免不良局部最优，我们以随机方式破坏这些特征，并更详尽地探索可迁移扰动的搜索空间。更具体地，我们使用一个生成器来产生对抗扰动，每个扰动根据输入潜码以不同方式破坏特征。大量实验评估证明了我们方法的有效性，其可迁移性优于最先进的方法。代码见 https://github.com/wkim97/ADA。
引用
@article{arxiv.2208.05650,
title = {Diverse Generative Perturbations on Attention Space for Transferable Adversarial Attacks},
author = {Woo Jae Kim and Seunghoon Hong and Sung-Eui Yoon},
journal= {arXiv preprint arXiv:2208.05650},
year = {2022}
}
备注
ICIP 2022 (Oral)