Mantis：基于 Mamba 的 3D 点云基座模型高效调优方法
计算机视觉与模式识别
2026-05-12 v2
摘要
预训练的 3D 点云基座模型（PFMs）在 diverse 下游任务上展现出强大的可迁移性。然而，对这些模型进行完整微调代价高昂且存储需求大。参数高效微调（PEFT）提供了有前景的替代方案，但现有 PEFT 方法主要为基于 Transformer 的背bone设计，依赖 token 级提示或特征变换。Mamba 基于的背bone引入了 token 级适应与状态级序列动力学之间的粒度不匹配。因此，将现有的 PEFT 方法直接应用于冻结的 Mamba 背bone会导致显著的精度下降和优化不稳定。为此，我们提出了 Mantis，即首个为 3D PFMs 设计的 Mamba 原生 PEFT 框架。具体而言，引入状态感知适配器（State-Aware Adapter, SAA），将轻量级任务条件控制信号注入选择性状态空间更新中，实现在保持预训练背bone冻结的同时进行状态级适应。此外，通过双序列化一致性蒸馏（Dual-Serialization Consistency Distillation, DSCD）对不同有效的点云序列化方式进行正则化，从而降低序列化引起的不稳定性。广泛的实验表明，Mantis 只需约 5% 可训练参数即可实现竞争性能。我们的代码已公开于 https://github.com/gzhhhhhhh/Mantis。
引用
@article{arxiv.2605.03438,
title = {Mantis: Mamba-native Tuning is Efficient for 3D Point Cloud Foundation Models},
author = {Zihao Guo and Jihua Zhu and Jian Liu and Ajmal Saeed Mian},
journal= {arXiv preprint arXiv:2605.03438},
year = {2026}
}