从卷积层特征图理解对抗鲁棒性
计算机视觉与模式识别
2024-01-30 v2 机器学习
摘要
神经网络的对抗鲁棒性主要依赖于两个因素：模型容量和抗扰动能力。在本文中，我们从卷积层的特征图出发研究网络的抗扰动能力。我们的理论分析发现，在平均池化之前更大的卷积特征图有助于更好地抵抗扰动，但对于最大池化该结论不成立。这为鲁棒神经网络的设计带来了新的启发，并促使我们应用这些发现来改进现有架构。所提出的修改非常简单，仅需对输入进行上采样或略微修改下采样算子的步长配置。我们在多个基准神经网络架构上验证了我们的方法，包括 AlexNet、VGG、RestNet18 和 PreActResNet18。在各种攻击与防御机制下，自然准确率和对抗鲁棒性均能获得显著的提升。代码可在 \url{https://github.com/MTandHJ/rcm} 获取。
引用
@article{arxiv.2202.12435,
title = {Understanding Adversarial Robustness from Feature Maps of Convolutional Layers},
author = {Cong Xu and Wei Zhang and Jun Wang and Min Yang},
journal= {arXiv preprint arXiv:2202.12435},
year = {2024}
}
备注
14pages