PointMoment：基于混合矩的3D点云自监督表示学习
计算机视觉与模式识别
2023-12-07 v1
摘要
大规模且丰富的数据是深度神经网络有效训练的前提。然而，点云数据的不规则性使得人工标注耗时且费力。自监督表示学习利用大规模无标注数据的内在结构来学习有意义的特征表示，在点云研究领域引起了越来越多的关注。然而，自监督表示学习常常遭受模型坍塌，导致所学表示的信息量和多样性降低，从而降低下游任务的性能。为了解决这个问题，我们提出了PointMoment，一种新颖的点云自监督表示学习框架，它使用高阶混合矩损失函数而不是传统的对比损失函数。此外，我们的框架不需要任何特殊技术，如非对称网络架构、梯度停止等。具体来说，我们计算特征变量的高阶混合矩，并强制它们分解为各自矩的乘积，从而使多个变量更加独立并最小化特征冗余。我们还结合了对比学习方法，以最大化同一点云在不同数据增强下的特征不变性。实验结果表明，我们的方法在3D点云分类和分割的下游任务上优于之前的无监督学习方法。
引用
@article{arxiv.2312.03350,
title = {PointMoment:Mixed-Moment-based Self-Supervised Representation Learning for 3D Point Clouds},
author = {Xin Cao and Xinxin Han and Yifan Wang and Mengna Yang and Kang Li},
journal= {arXiv preprint arXiv:2312.03350},
year = {2023}
}
备注
15 pages,3 figures