探索CNN对对抗扰动的特征层次脆弱性
计算机视觉与模式识别
2024-06-03 v1
摘要
本研究探讨了对抗扰动对卷积神经网络(CNN)的影响，旨在增强对其底层机制的理解。尽管文献中提出了众多防御方法，但仍存在不完全理解这一现象的局限。我们提出，特定的特征图在训练期间学习， contribute to overall vulnerability。为探究CNN学习的隐藏表征如何影响其脆弱性，我们引入了对抗干预框架Adversarial Intervention。在三个著名计算机视觉数据集上进行了实验，使其接受不同性质的攻击。我们的关注点在于，对模型初始层的对抗扰动如何影响整体行为。实证结果揭示了引人注目的见解：a)扰动浅层的特定通道组合会导致显著的干扰；b)负责这些干扰的通道组合在不同类型的攻击中具有共通性；c)尽管存在共享的脆弱通道组合，但不同攻击对隐藏表征的影响幅度各不相同；d)存在一种核感受器大小与其脆弱性之间的正相关。总之，本工作引入了一种新型框架来研究CNN模型对对抗扰动的脆弱性，揭示了深入理解这一现象的见解。这些被识别的特性为未来应用中开发高效针对性防御机制的开发奠定了基础。
引用
@article{arxiv.2405.20672,
title = {Investigating and unmasking feature-level vulnerabilities of CNNs to adversarial perturbations},
author = {Davide Coppola and Hwee Kuan Lee},
journal= {arXiv preprint arXiv:2405.20672},
year = {2024}
}
备注
22 pages, 15 figures (including appendix)