SpiralMLP：一种轻量级视觉 MLP 架构
计算机视觉与模式识别
2024-09-05 v2
摘要
我们提出了 SpiralMLP，一种引入 Spiral FC 层以替代传统 Token Mixing 方法的新颖架构。与几个主要强调坐标轴的现有基于 MLP 的模型不同，我们的 Spiral FC 层被设计为具有螺旋状偏移的可变形卷积层。我们进一步将 Spiral FC 调整为两个变体：Self-Spiral FC 和 Cross-Spiral FC，它们能够无缝地实现局部和全局特征整合，消除了对额外处理步骤的需求。为了深入探究螺旋状偏移的有效性并验证我们的设计，我们进行了消融研究并探索了最佳配置。在实证测试中，SpiralMLP 在 ImageNet-1k、COCO 和 ADE20K 上的基准测试中达到了 SOTA 性能，与 Transformer、CNN 和其他 MLP 相当。SpiralMLP 仍保持线性计算复杂度 O(HW)，并兼容不同的输入图像分辨率。我们的研究表明，以整个感受野为目标对于实现高性能并非必需，相反，采用精细化的方法能提供更好的结果。
引用
@article{arxiv.2404.00648,
title = {SpiralMLP: A Lightweight Vision MLP Architecture},
author = {Haojie Mu and Burhan Ul Tayyab and Nicholas Chua},
journal= {arXiv preprint arXiv:2404.00648},
year = {2024}
}