注意力机制对图像分类模型对抗鲁棒性的影响
计算机视觉与模式识别
2021-09-03 v1
摘要
针对深度学习模型的对抗攻击已受到广泛关注,近期工作提出了对抗样本存在性的解释以及防御这些攻击的技术。计算机视觉中的注意力机制被用于实现对重要特征的聚焦学习,并提升了准确率。近来,带有注意力机制的模型被提出以增强对抗鲁棒性。在此背景下,本工作旨在一般性理解注意力对对抗鲁棒性的影响。本工作对基于非注意力与基于注意力的图像分类模型在CIFAR-10、CIFAR-100和Fashion MNIST数据集上、于流行的白盒与黑盒攻击下的对抗鲁棒性进行了比较研究。实验结果表明,基于注意力的模型的鲁棒性可能依赖于所使用的数据集,即分类中所涉及的类别数。与类别数较少的数据集相比,基于注意力的模型在分类上表现出更好的鲁棒性。
引用
@article{arxiv.2109.00936,
title = {Impact of Attention on Adversarial Robustness of Image Classification Models},
author = {Prachi Agrawal and Narinder Singh Punn and Sanjay Kumar Sonbhadra and Sonali Agarwal},
journal= {arXiv preprint arXiv:2109.00936},
year = {2021}
}