SpectralDefense：在傅里叶域检测 CNN 上的对抗攻击
计算机视觉与模式识别
2021-06-03 v2 人工智能
摘要
尽管卷积神经网络（CNNs）在许多计算机视觉与图像分析任务中取得成功，它们仍易受所谓对抗攻击：输入图像中微小的精心扰动可导致错误预测。一种可能的防御是检测对抗样本。在本工作中，我们展示如何利用输入图像与特征图的傅里叶域分析来区分良性测试样本与对抗图像。我们提出两种新检测方法：第一种采用输入图像的幅度谱检测对抗攻击，这种简单且鲁棒的分类器可成功检测三种常用攻击方法的对抗扰动。第二种方法基于第一种并额外提取网络不同层特征图傅里叶系数的相位。借助此扩展，相较于最先进检测器，我们在五种不同攻击方法上提升了对抗检测率。
引用
@article{arxiv.2103.03000,
title = {SpectralDefense: Detecting Adversarial Attacks on CNNs in the Fourier Domain},
author = {Paula Harder and Franz-Josef Pfreundt and Margret Keuper and Janis Keuper},
journal= {arXiv preprint arXiv:2103.03000},
year = {2021}
}