PointContrast：用于三维点云理解的无监督预训练

可以说，深度学习最成功的案例之一是迁移学习。预训练网络于丰富源数据集（如 ImageNet）上、再在通常小得多的目标数据集上微调可提升性能这一发现，对语言和视觉领域的诸多应用起到了关键作用。然而，关于其在三维点云理解中的效用却鲜有认知。考虑到三维数据标注所需的工作量，我们将此视为一个机遇。本工作中，我们旨在推动三维表示学习的研究。与以往工作不同，我们聚焦于高层场景理解任务。为此，我们选取了一套多样的数据集与任务，以衡量在无监督预训练下、基于大规模三维场景源数据集的效果。我们的发现极为鼓舞人心：采用统一的架构、源数据集与对比损失三元组进行预训练，我们在室内外、真实与合成共 6 个不同基准的分割与检测任务上均超越了近期最佳结果——表明所学表示可跨域泛化。此外，该提升幅度与有监督预训练相近，意味着未来的努力应倾向于扩大数据收集而非更精细的标注。我们希望这些发现能激励更多关于三维深度学习无监督 pretext 任务设计的研究。