Point-RTD: 用于点云Transformer模型的替换标记去噪
计算机视觉与模式识别
2025-09-23 v1 人工智能
机器学习
摘要
预训练策略在推动基于Transformer的3D点云任务性能方面发挥着关键作用。本文引入Point-RTD(替换标记去噪),这是一种新型预训练策略,旨�通过腐蚀-重建框架提高token的鲁棒性。不同于传统的基于掩码的重建任务(隐藏数据片段以供后期预测),Point-RTD腐蚀点云token并利用判别器-生成器体系结构进行去噪。这种转变使得更有效地学习结构先验,显著提升模型性能和效率。在ShapeNet数据集上,Point-RTD相较于PointMAE将重建误差降低超过93%,在测试集上将 Chamfer距离降低超过14倍。我们的方法也收敛更快,在ShapeNet、ModelNet10和ModelNet40基准上实现更高的分类准确率,在所有情况下都显著优于基线Point-MAE框架。
关键词
引用
@article{arxiv.2509.17207,
title = {Point-RTD: Replaced Token Denoising for Pretraining Transformer Models on Point Clouds},
author = {Gunner Stone and Youngsook Choi and Alireza Tavakkoli and Ankita Shukla},
journal= {arXiv preprint arXiv:2509.17207},
year = {2025}
}