跨数据集对抗攻击
计算机视觉与模式识别
2022-07-26 v2
摘要
现有的迁移攻击方法通常假设攻击者已知黑盒受害者模型的训练集（例如标签集、输入尺寸），这通常是不现实的，因为在某些情况下攻击者无法获知这些信息。本文定义了一个广义可迁移攻击（GTA）问题，其中攻击者不知道这些信息，并且需要对可能来自未知数据集的任意随机遇到的图像进行攻击。为解决GTA问题，我们提出了一种新颖的图像分类擦除器（ICE），它训练一个特定的攻击器来擦除来自任意数据集的任何图像的分类信息。在多个数据集上的实验表明，ICE在GTA问题上显著优于现有的迁移攻击，并显示ICE使用类似纹理的噪声来扰动来自不同数据集的不同图像。此外，快速傅里叶变换分析表明，每个ICE噪声中的主要成分是R、G、B图像通道的三个正弦波。受这一有趣发现的启发，我们随后设计了一种新颖的正弦攻击（SA）方法来优化这三个正弦波。实验表明，SA的性能与ICE相当，表明这三个正弦波在GTA设定下是有效且足以攻破深度神经网络的。
引用
@article{arxiv.2110.07718,
title = {Adversarial Attack across Datasets},
author = {Yunxiao Qin and Yuanhao Xiong and Jinfeng Yi and Lihong Cao and Cho-Jui Hsieh},
journal= {arXiv preprint arXiv:2110.07718},
year = {2022}
}