揭示极大内核卷积神经网络在鲁棒性方面的黑暗秘密
计算机视觉与模式识别
2024-07-15 v1
摘要
在野外部署深度学习模型时，鲁棒性是一个至关重要的考虑因素。众多研究致力于研究视觉转换器（ViT）的鲁棒性，而 ViT 自 2020 年代之始便作为视觉任务的主流 backbone 选项占据主导地位。最近，一些大内核卷积网络因表现出色和效率高而重新流行。然而，是否大内核网络具有鲁棒性以及其鲁棒性的归因仍然不明确。本文首先对大内核卷积网络的鲁棒性进行全面评估，并探讨其与典型小内核 counterpart 以及 ViT 的差异，评估六个多样化鲁棒性基准数据集。随后，我们从定量和定性视角设计实验，揭示大内核卷积网络与典型卷积网络完全不同的独特特性。我们的实验首次表明纯 CNN 可以实现极佳的鲁棒性，甚至优于 ViT。我们对遮挡不变性、内核注意力模式和频率特征的分析提供了关于鲁棒性来源的新见解。
引用
@article{arxiv.2407.08972,
title = {Revealing the Dark Secrets of Extremely Large Kernel ConvNets on Robustness},
author = {Honghao Chen and Yurong Zhang and Xiaokun Feng and Xiangxiang Chu and Kaiqi Huang},
journal= {arXiv preprint arXiv:2407.08972},
year = {2024}
}