通过本福德-傅里叶系数有效且鲁棒地检测对抗样本
计算机视觉与模式识别
2023-10-23 v1
摘要
对抗样本已被公认为对深度神经网络（DNNs）的严重威胁。在这项工作中，我们基于如下假设研究对抗样本的检测：一个 DNN 模型对于对抗样本与良性样本的输出及内部响应均服从广义高斯分布（GGD），但参数不同（即形状因子、均值与方差）。GGD 是一个可涵盖许多常见分布（如拉普拉斯、高斯或均匀）的一般分布族。它比任何特定分布更可能逼近内部响应的内在分布。此外，由于形状因子相对于另两个参数对不同的数据库更鲁棒，我们提出利用本福德-傅里叶系数（MBF）的幅值来通过形状因子构造判别特征以进行对抗检测，该幅值可使用响应轻松估计。最后，通过利用 MBF 特征训练一个支持向量机作为对抗检测器。在图像分类方面的大量实验表明，与最先进的对抗检测方法相比，所提检测器在不同构造方法与不同来源的对抗样本检测上更有效且更鲁棒。
引用
@article{arxiv.2005.05552,
title = {Effective and Robust Detection of Adversarial Examples via Benford-Fourier Coefficients},
author = {Chengcheng Ma and Baoyuan Wu and Shibiao Xu and Yanbo Fan and Yong Zhang and Xiaopeng Zhang and Zhifeng Li},
journal= {arXiv preprint arXiv:2005.05552},
year = {2023}
}
备注
Machine Intelligence Research, 2022