基于空间-频域表示的基于Transformer的对抗防御 Denoiser——Trans-defense
计算机视觉与模式识别
2025-11-03 v1
摘要
近期，深度神经网络（Deep Neural Networks, DNNs）已成功应用于各种应用。尽管取得了显著成就，但显而易见的是DNNs对高级对抗攻击十分脆弱，这限制了其在安全关键系统中的应用。本文提出两种阶段的训练方法以应对此类攻击：第一阶段训练去噪网络，第二阶段训练深度分类器模型。我们提出一种新颖的去噪策略，将空间域方法与频域方法相结合，以对抗图像对抗攻击。我们的分析表明，受攻击图像的高频成分比低频成分被严重破坏得更严重。为此，我们利用离散小波变换（Discrete Wavelet Transform, DWT）进行频率分析，并开发一种结合空间图像特征与小波通过Transformer层的去噪网络。随后，我们使用去噪后的图像重新训练分类器，从而增强分类器对对抗攻击的鲁棒性。在MNIST、CIFAR-10和Fashion-MNIST数据集上的实验结果表明，所提方法显著提升了分类准确率，显著优于仅使用去噪网络或对抗训练方法的性能。代码已公开于https://github.com/Mayank94/Trans-Defense。
关键词
引用
@article{arxiv.2510.27245,
title = {Trans-defense: Transformer-based Denoiser for Adversarial Defense with Spatial-Frequency Domain Representation},
author = {Alik Pramanick and Mayank Bansal and Utkarsh Srivastava and Suklav Ghosh and Arijit Sur},
journal= {arXiv preprint arXiv:2510.27245},
year = {2025}
}