Mamba2D:面向视觉任务的原生多维状态空间模型
统计力学
2025-06-10 v2 介观与纳米尺度物理
混沌动力学
量子物理
摘要
状态空间模型(SSM)已成为变压器的高效替代方案,但现有视觉 SSM 仍保留着源自自然语言处理的深层偏见。本文通过引入 M2D-SSM,对选择性状态空间技术进行从零开始的重新推导,以适应多维数据。不同于以往将 1D SSM 直接作用于图像并通过任意光栅化扫描的方法,M2D-SSM 采用单一的 2D 扫描,原生性地考虑了两个空间维度。在 ImageNet-1K 分类任务中,M2D-T 达到 84.0% 的 top-1 准确率,仅使用 2700 万参数,超越了同尺度所有基于 SSM 的视觉模型。M2D-S 进一步实现 85.3%,在 SSM 架构中树立了最佳记录。在下游任务方面,Mamba2D 在 MS-COCO 目标检测中实现 52.2 的 box AP(3× schedule),在 ADE20K 分割中实现 51.7 的 mIoU,展现出在规模化场景下的强大泛化能力与效率。源代码已公开于 https://github.com/cocoalex00/Mamba2D。
引用
@article{arxiv.2412.16041,
title = {Integrability versus chaos in the steady state of many-body open quantum systems},
author = {Josef Richter and Lucas Sá and Masudul Haque},
journal= {arXiv preprint arXiv:2412.16041},
year = {2025}
}
备注
12 pages, 6 figures. v2: minor corrections, version as published