中文

利用单张图像生成对抗性且不易察觉的补丁

计算机视觉与模式识别 2021-04-28 v2 人工智能

摘要

深度神经网络已被证明易受对抗补丁的攻击,其中奇异图案可导致模型错误预测。然而,现有的对抗补丁生成方法几乎未考虑补丁与图像背景之间的上下文一致性,致使此类补丁易被检测、对抗攻击失败。另一方面,这些方法需要大量数据进行训练,计算代价高昂。为克服这些挑战,我们提出一种利用单张图像生成对抗性且不易察觉补丁的方法。在我们的方法中,对抗补丁以由粗到精的方式通过多尺度生成器与判别器产生。在极小极大(Min-Max)训练中编码上下文信息,使补丁与周围环境一致。补丁位置的选择基于受害模型的感知敏感性。通过大量实验,我们的方法在白盒与黑盒设定下均展现出强大的攻击能力。显著性检测与用户评估实验表明,我们的对抗补丁能够规避人眼观察,证明了方法的不易察觉性。最后,我们展示了该方法在物理世界中保持攻击能力。

关键词

引用

@article{arxiv.2009.09774,
  title  = {Generating Adversarial yet Inconspicuous Patches with a Single Image},
  author = {Jinqi Luo and Tao Bai and Jun Zhao},
  journal= {arXiv preprint arXiv:2009.09774},
  year   = {2021}
}

备注

Accepted by AAAI2021 Student Abstract and Poster Program. Full paper available as arXiv:2009.09774.v1