AdvFilter：基于多域学习的预测式扰动感知滤波抵御对抗攻击
计算机视觉与模式识别
2021-10-19 v2 机器学习
图像与视频处理
摘要
高层表示引导的像素去噪与对抗训练是通过分别预处理输入数据与重训练模型来增强 CNN 抵御对抗攻击鲁棒性的独立方案。近来，对抗训练技术被广泛研究并改进，而基于像素去噪的方法渐失吸引力。然而，是否存在更先进的基于像素去噪的方法、以及两种方案结合是否互利仍存疑问。为此，我们首先在图像级与语义级损失函数下，全面考察两类用于增强对抗鲁棒性的像素去噪方法（即已有的基于加性方法与未探索的基于滤波方法），表明像素级滤波比已有的像素级加性方法可获得更高图像质量（如更高 PSNR）与更高鲁棒性（如对抗样本上更高精度）。但我们也观察到，基于滤波方法的鲁棒性结果依赖于用于训练的对抗样本扰动幅度。为解决此问题，我们提出预测式扰动感知与像素级滤波，其中设计并采用了双扰动滤波与不确定性感知融合模块，以在训练与测试过程中自动感知扰动幅度。该方法称为 AdvFilter。此外，我们将对抗像素去噪方法与三种基于对抗训练的方法结合，暗示联合考量数据与模型能够实现更鲁棒的 CNN。实验在 NeurIPS-2017DEV、SVHN 与 CIFAR10 数据集上进行，显示出在增强 CNN 鲁棒性、对不同模型与噪声水平的高泛化性方面的优势。
引用
@article{arxiv.2107.06501,
title = {AdvFilter: Predictive Perturbation-aware Filtering against Adversarial Attack via Multi-domain Learning},
author = {Yihao Huang and Qing Guo and Felix Juefei-Xu and Lei Ma and Weikai Miao and Yang Liu and Geguang Pu},
journal= {arXiv preprint arXiv:2107.06501},
year = {2021}
}
备注
This work has been accepted to ACM-MM 2021