面向基于掩码自编码器的点云预训练的3D特征预测

掩码自编码器（MAE）因其在NLP和计算机视觉中的巨大成功，近期被引入到点云的三维自监督预训练中。与图像域中恢复掩码像素处特征（如颜色）为前置任务的MAE不同，现有的三维MAE工作仅重建缺失的几何结构，即掩码点的位置。与以往研究不同，我们认为点位置恢复并非必要，而恢复点的内在特征则优越得多。为此，我们提出忽略点位置重建，并通过一种独立于编码器设计的基于注意力的解码器，恢复掩码点处的高阶特征，包括表面法线与表面变化度。我们使用不同的编码器结构进行三维训练，验证了前置任务与解码器设计的有效性，并展示了我们所预训练网络在各种点云分析任务上的优势。