FG-UAP：特征聚集通用对抗扰动
计算机视觉与模式识别
2022-09-28 v1 密码学与安全
机器学习
摘要
深度神经网络（DNN）易受精心设计的扰动影响，无论此类扰动是否依赖于图像。后者称为通用对抗扰动（UAP），因其对输入的独立性揭示了模型的固有特性，在模型鲁棒性分析中极具吸引力。相对地，另一有趣现象是神经崩溃（NC），即训练末期特征变异性可能崩溃。受此启发，我们提出通过攻击发生 NC 现象的层来生成 UAP。由于 NC，所提攻击可将所有自然图像的特征聚集到其周围，故称为特征聚集 UAP（FG-UAP）。我们在大量实验中评估了所提算法的有效性，包括无目标与有目标通用攻击、有限数据集下的攻击，以及跨不同架构（含被认为更鲁棒的 Vision Transformers）的基于迁移的黑盒攻击。此外，我们从 NC 视角通过分析对抗样本标签与提取特征研究 FG-UAP，发现模型被腐蚀后崩溃现象增强。代码将在论文被接收后发布。
引用
@article{arxiv.2209.13113,
title = {FG-UAP: Feature-Gathering Universal Adversarial Perturbation},
author = {Zhixing Ye and Xinwen Cheng and Xiaolin Huang},
journal= {arXiv preprint arXiv:2209.13113},
year = {2022}
}
备注
27 pages, 4 figures