近期图像分类中通用对抗扰动的比较评测
计算机视觉与模式识别
2023-06-21 v1
摘要
卷积神经网络（CNNs）对对抗样本的脆弱性近来在机器学习界受到显著关注。此外，近期研究揭示了通用对抗扰动（UAPs）的存在，其无关图像且在不同CNN模型间高度可迁移。在本综述中，我们主要关注图像分类任务中UAPs的近期进展。我们将UAPs分为两类，即基于噪声的攻击与基于生成器的攻击，从而对各类中代表性方法给出全面概览。通过呈现这些方法的计算细节，我们总结了用于学习UAPs的多种损失函数。进而，我们在一致的训练框架（包括基于噪声与基于生成器）下对不同的损失函数进行了全面评测。评测涵盖广泛的攻击设定，包括黑盒与白盒攻击、有目标与无目标攻击，以及防御机制的考察。我们的定量评测结果得出了若干关于不同损失函数有效性、替代CNN模型选择、训练数据与数据量的影响，以及构造通用攻击器所涉训练框架的重要发现。最后，为进一步推动通用对抗攻击的未来研究，我们给出了扰动的一些可视化并讨论了潜在研究方向。
引用
@article{arxiv.2306.11261,
title = {Comparative Evaluation of Recent Universal Adversarial Perturbations in Image Classification},
author = {Juanjuan Weng and Zhiming Luo and Dazhen Lin and Shaozi Li},
journal= {arXiv preprint arXiv:2306.11261},
year = {2023}
}
备注
18 pages,8 figures, 7 tables