探究 corruption 鲁棒性：视觉 Transformer 与 MLP-Mixer 中的归纳偏置
计算机视觉与模式识别
2021-07-06 v2 机器学习
摘要
近来，视觉 Transformer 与基于 MLP 的模型被提出，以解决卷积神经网络中一些普遍存在的弱点。由于 Transformer 在该领域应用的新颖性以及自注意力机制，这些架构在多大程度上对 corruption 具有鲁棒性仍不清楚。尽管一些工作提出数据增强对于模型抵御 corruption 的鲁棒性仍然必不可少，我们主张探究架构本身对 corruption 鲁棒性的影响。我们发现视觉 Transformer 架构本质上比 ResNet-50 和 MLP-Mixer 对 corruption 更具鲁棒性。我们还发现，参数量比 ResNet-50 少 5 倍的视觉 Transformer 具有更强的形状偏置。我们的代码已公开以供复现。
引用
@article{arxiv.2106.13122,
title = {Exploring Corruption Robustness: Inductive Biases in Vision Transformers and MLP-Mixers},
author = {Katelyn Morrison and Benjamin Gilby and Colton Lipchak and Adam Mattioli and Adriana Kovashka},
journal= {arXiv preprint arXiv:2106.13122},
year = {2021}
}
备注
Under review at the Uncertainty and Robustness in Deep Learning workshop at ICML 2021. Our appendix is attached to the last page of the paper