MLP-Mixer:一种全MLP的视觉架构
计算机视觉与模式识别
2021-06-14 v4 人工智能
机器学习
摘要
卷积神经网络(CNNs)是计算机视觉的首选模型。近来,基于注意力的网络(如Vision Transformer)也变得流行。在本文中,我们表明尽管卷积与注意力均足以获得良好性能,但二者均非必要。我们提出MLP-Mixer,一种完全基于多层感知机(MLPs)的架构。MLP-Mixer包含两类层:一类是对图像块独立应用MLP(即“混合”各位置特征),另一类是对跨图像块应用MLP(即“混合”空间信息)。当在大型数据集上训练或采用现代正则化方案时,MLP-Mixer在图像分类基准上取得具有竞争力的分数,其预训练与推理成本与最先进模型相当。我们希望这些结果能激发超越成熟CNNs和Transformers领域的进一步研究。
引用
@article{arxiv.2105.01601,
title = {MLP-Mixer: An all-MLP Architecture for Vision},
author = {Ilya Tolstikhin and Neil Houlsby and Alexander Kolesnikov and Lucas Beyer and Xiaohua Zhai and Thomas Unterthiner and Jessica Yung and Andreas Steiner and Daniel Keysers and Jakob Uszkoreit and Mario Lucic and Alexey Dosovitskiy},
journal= {arXiv preprint arXiv:2105.01601},
year = {2021}
}
备注
v2: Fixed parameter counts in Table 1. v3: Added results on JFT-3B in Figure 2(right); Added Section 3.4 on the input permutations. v4: Updated the x label in Figure 2(right)