MoST：面向3D表征学习的高效王稀疏调优
计算机视觉与模式识别
2025-03-25 v1 机器学习
摘要
我们介绍了Monarch稀疏调优（MoST），这是首个针对3D表征学习的重参数化无额外推理开销的无参数高效微调（PEFT）方法。不同于现有的基于适配器和提示调优的3D PEFT方法，MoST在推理时无需额外开销，且与许多3D表征学习主干网络兼容。其核心是我们提出的面向3D点云的新型结构化矩阵家族——Point Monarch矩阵，能够捕获不规则点云中局部几何特征，同时具备高表达能力。MoST将稠密更新权重矩阵重参数化为稀疏的Point Monarch矩阵，显著减少参数而保持强性能。在各种主干网络上的实验表明，MoST简单有效且高度通用。它捕获点云中的局部特征，在多个基准上实现最先进结果，例如在ScanObjectNN（PB_50_RS）上达到97.5%准确率，在ModelNet40分类上达到96.2%，同时还能与其他矩阵分解方法（如低秩、Kronecker）结合进一步压缩参数。
引用
@article{arxiv.2503.18368,
title = {MoST: Efficient Monarch Sparse Tuning for 3D Representation Learning},
author = {Xu Han and Yuan Tang and Jinfeng Xu and Xianzhi Li},
journal= {arXiv preprint arXiv:2503.18368},
year = {2025}
}
备注
11 pages, 6 figures, 6 tables. Code and weights are available at https://github.com/xhanxu/MoST