从对抗样本的傅里叶域视角到语义分割的维纳滤波防御
计算机视觉与模式识别
2021-04-22 v2 机器学习
图像与视频处理
摘要
尽管近期取得进展，深度神经网络仍不鲁棒于对抗扰动。许多提出的对抗防御方法采用计算昂贵的训练机制，无法扩展到语义分割等复杂现实任务，且仅带来微小改进。此外，关于对抗扰动本质及其与网络架构关系的基本问题在很大程度上未被充分研究。本工作中，我们从频域视角研究对抗问题。更具体地，我们分析若干对抗图像的离散傅里叶变换（DFT）谱并报告两项主要发现：第一，模型架构与对抗扰动的本质之间存在强连接，该连接可在频域中观察并处理。第二，观察到的频率模式在很大程度上与图像和攻击类型无关，这对于利用此类模式的任何防御的实际影响十分重要。受这些发现启发，我们额外提出一种基于著名维纳滤波器的对抗防御方法，以数据驱动方式捕获并抑制对抗频率。我们提出的方法不仅泛化到未知攻击，还在多种攻击设置下于两个模型中击败五种现有SOTA方法。
引用
@article{arxiv.2012.01558,
title = {From a Fourier-Domain Perspective on Adversarial Examples to a Wiener Filter Defense for Semantic Segmentation},
author = {Nikhil Kapoor and Andreas Bär and Serin Varghese and Jan David Schneider and Fabian Hüger and Peter Schlicht and Tim Fingscheidt},
journal= {arXiv preprint arXiv:2012.01558},
year = {2021}
}
备注
Accepted by The International Joint Conference on Neural Network (IJCNN) 2021