利用图像残差检测补丁对抗攻击
计算机视觉与模式识别
2020-03-03 v2 图像与视频处理
摘要
我们介绍了一种基于图像残差的对抗样本检测算法，专门设计用于防御基于补丁的攻击。图像残差作为输入图像与其去噪版本之间的差值获得，并训练一个判别器来区分干净样本和对抗样本。更精确地，我们使用小波域算法对图像去噪，并证明所获得的残差充当对抗攻击的数字指纹。为了模拟物理攻击者的局限，我们针对局部化（基于补丁）的对抗攻击评估了我们方法的性能，包括在攻击者完全知晓检测方案设定的情况下。我们的结果表明，所提出的检测方法可泛化到先前未见的更强攻击，并且它能够降低自适应攻击者的成功率（反之，增加其计算代价）。
引用
@article{arxiv.2002.12504,
title = {Detecting Patch Adversarial Attacks with Image Residuals},
author = {Marius Arvinte and Ahmed Tewfik and Sriram Vishwanath},
journal= {arXiv preprint arXiv:2002.12504},
year = {2020}
}