基于侧图卷积的 3D 点云 Transformer 高效微调中的 Token 适配
计算机视觉与模式识别
2026-03-05 v4
摘要
参数高效微调( PEFT)已成为 3D 点云 Transformer 分析的热门技术。虽然现有 PEFT 方法试图最小化可调参数数量，但常在微调过程中遭受高时空计算成本。本文提出一种新型 PEFT 算法 Side Token Adaptation on a neighborhood Graph( STAG)，以实现更优的时空效率。STAG 采用在冻结主干 Transformer 上的平行运行的图卷积侧网络来适配 tokens 以适应下游任务。通过高效图卷积、参数共享和减少梯度计算，STAG 显著降低了微调的时空成本。我们还提出了 Point Cloud Classification 13( PCC13)，一个新基准，包含多样化的公开 3D 点云数据集，以促进全面评估。大量实验表明，STAG 在多个预训练模型和 PCC13 上效果显著。具体而言，STAG 在保持与现有方法相当的分类准确率的同时，将可调参数减少至仅 0.43M，并显著降低了微调的计算时间和内存消耗。代码和基准将在 https://github.com/takahikof/STAG 提供。
引用
@article{arxiv.2502.14142,
title = {Token Adaptation via Side Graph Convolution for Efficient Fine-tuning of 3D Point Cloud Transformers},
author = {Takahiko Furuya},
journal= {arXiv preprint arXiv:2502.14142},
year = {2026}
}
备注
Accepted to the journal of Machine Vision and Applications