中文

Mamba2D:面向视觉任务的原生多维状态空间模型

统计力学 2025-06-10 v2 介观与纳米尺度物理 混沌动力学 量子物理

摘要

状态空间模型(SSM)已成为变压器的高效替代方案,但现有视觉 SSM 仍保留着源自自然语言处理的深层偏见。本文通过引入 M2D-SSM,对选择性状态空间技术进行从零开始的重新推导,以适应多维数据。不同于以往将 1D SSM 直接作用于图像并通过任意光栅化扫描的方法,M2D-SSM 采用单一的 2D 扫描,原生性地考虑了两个空间维度。在 ImageNet-1K 分类任务中,M2D-T 达到 84.0% 的 top-1 准确率,仅使用 2700 万参数,超越了同尺度所有基于 SSM 的视觉模型。M2D-S 进一步实现 85.3%,在 SSM 架构中树立了最佳记录。在下游任务方面,Mamba2D 在 MS-COCO 目标检测中实现 52.2 的 box AP(3× schedule),在 ADE20K 分割中实现 51.7 的 mIoU,展现出在规模化场景下的强大泛化能力与效率。源代码已公开于 https://github.com/cocoalex00/Mamba2D。

关键词

引用

@article{arxiv.2412.16041,
  title  = {Integrability versus chaos in the steady state of many-body open quantum systems},
  author = {Josef Richter and Lucas Sá and Masudul Haque},
  journal= {arXiv preprint arXiv:2412.16041},
  year   = {2025}
}

备注

12 pages, 6 figures. v2: minor corrections, version as published