在空间频域中评估对抗鲁棒性
计算机视觉与模式识别
2024-05-13 v1
摘要
卷积神经网络（CNN）在大多数计算机视觉任务中占据主导地位。然而，CNN易受对抗攻击的脆弱性引发了人们对于将这些模型部署到安全关键应用中的担忧。相比之下，人类视觉系统（HVS）利用空间频率通道处理视觉信号，对对抗攻击具有免疫力。因此，本文提出了一项实证研究，探索CNN模型在频域中的脆弱性。具体而言，我们利用离散余弦变换（DCT）构建空间-频率（SF）层，以生成输入图像的分块频谱，并通过用SF层替换广泛使用的CNN骨干网络的初始特征提取层，构建了空间频率CNN（SF-CNN）。通过大量实验，我们观察到SF-CNN模型在白盒和黑盒攻击下都比其对应的CNN模型更鲁棒。为了进一步解释SF-CNN的鲁棒性，我们使用两种混合策略，将SF层与具有相同卷积核大小的可训练卷积层进行比较，结果表明低频分量对SF-CNN的对抗鲁棒性贡献最大。我们相信我们的观察结果可以指导未来鲁棒CNN模型的设计。
引用
@article{arxiv.2405.06345,
title = {Evaluating Adversarial Robustness in the Spatial Frequency Domain},
author = {Keng-Hsin Liao and Chin-Yuan Yeh and Hsi-Wen Chen and Ming-Syan Chen},
journal= {arXiv preprint arXiv:2405.06345},
year = {2024}
}
备注
14 pages