中文

注意力并非唯一:视觉计算中高效替代方法

计算机视觉与模式识别 2026-04-21 v1

摘要

最近,计算机视觉领域的进展主要归功于基于Transformer的模型。然而,许多非Transformer方法仍然表现良好,与基于Transformer的模型形成强大的竞争。本综述旨在呈现这些方法的全面分类体系,并将其组织到卷积基模型、MLP基模型、状态空间基模型等类别中。我们从效率、扩展性、可理解性和鲁棒性等方面考察这些方法。本研究选取了40篇论文。目标是为非Transformer方法提供整体视图,探讨未来计算机视觉研究中可能存在的挑战与机遇。

关键词

引用

@article{arxiv.2604.17439,
  title  = {Attention Is not Everything: Efficient Alternatives for Vision},
  author = {Nur Mohammad Kazi and Ibteshum Khaled and Md. Luthful Hasan Galib and Ali Faruk Shihab and Md. Rakibul Islam},
  journal= {arXiv preprint arXiv:2604.17439},
  year   = {2026}
}

备注

Preprint, manuscript under review