PointMamba：一种用于点云分析的简单状态空间模型
计算机视觉与模式识别
2024-11-26 v5
摘要
Transformer因其出色的全局建模能力，已成为点云分析任务中的基础架构之一。然而，注意力机制具有二次复杂度，因此设计具有全局建模能力的线性复杂度方法颇具吸引力。本文提出PointMamba，将近期具有代表性的状态空间模型（SSM）Mamba的成功从NLP迁移到点云分析任务。与传统的Transformer不同，PointMamba采用线性复杂度算法，在显著降低计算成本的同时具备全局建模能力。具体而言，我们的方法利用空间填充曲线进行有效的点令牌化，并采用极其简单的非层次化Mamba编码器作为主干网络。综合评估表明，PointMamba在多个数据集上实现了优越的性能，同时显著降低了GPU内存使用和FLOPs。这项工作凸显了SSM在3D视觉相关任务中的潜力，并为未来研究提供了一个简单而有效的基于Mamba的基线。代码将在\url{https://github.com/LMD0311/PointMamba}提供。
引用
@article{arxiv.2402.10739,
title = {PointMamba: A Simple State Space Model for Point Cloud Analysis},
author = {Dingkang Liang and Xin Zhou and Wei Xu and Xingkui Zhu and Zhikang Zou and Xiaoqing Ye and Xiao Tan and Xiang Bai},
journal= {arXiv preprint arXiv:2402.10739},
year = {2024}
}
备注
Accepted at NeurIPS 2024. The code will be made available at https://github.com/LMD0311/PointMamba