PointABM：融合双向状态空间模型与多头自注意力进行点云分析
计算机视觉与模式识别
2024-06-11 v1
摘要
基于状态空间模型（SSM）的Mamba，凭借其线性复杂度和在分类任务中的巨大成功，在三维点云分析中展现了其优越性。在此之前，Transformer已成为点云分析中最突出和最成功的架构之一。我们提出了PointABM，一种融合了Mamba和Transformer架构的混合模型，旨在增强局部特征以提升三维点云分析的性能。为了增强全局特征的提取，我们引入了一个双向SSM（bi-SSM）框架，该框架包含一个传统的令牌前向SSM和一个创新的后向SSM。为了增强bi-SSM捕获更全面特征的能力，同时不破坏双向Mamba所需的序列关系，我们引入了Transformer，利用其自注意力机制处理点云。大量的实验结果表明，将Mamba与Transformer集成显著增强了模型分析三维点云的能力。
引用
@article{arxiv.2406.06069,
title = {PointABM:Integrating Bidirectional State Space Model with Multi-Head Self-Attention for Point Cloud Analysis},
author = {Jia-wei Chen and Yu-jie Xiong and Yong-bin Gao},
journal= {arXiv preprint arXiv:2406.06069},
year = {2024}
}