所有点都重要：面向弱监督3D分割的熵正则化分布对齐
计算机视觉与模式识别
2023-10-23 v2
摘要
伪标签被广泛用于仅有稀疏真值标签可用于学习的弱监督3D分割任务中。现有方法通常依赖经验性的标签选择策略（如置信度阈值）来生成有益于模型训练的伪标签。然而，这种方法可能阻碍对未标注数据点的充分利用。我们假设这种选择性使用源于在未标注数据上生成的伪标签中的噪声。伪标签中的噪声可能导致伪标签与模型预测之间的显著偏差，从而极大地混淆并影响模型训练。为解决此问题，我们提出一种新的学习策略来正则化生成的伪标签，并有效缩小伪标签与模型预测之间的差距。更具体地，我们的方法引入了熵正则化损失和分布对齐损失，用于弱监督学习中的3D分割任务，从而形成了一种ERDA学习策略。有趣的是，通过使用KL距离来构造分布对齐损失，它简化为一个看似简单的基于交叉熵的损失，可同时优化伪标签生成网络和3D分割网络。尽管简单，我们的方法有望提升性能。我们通过在各种基线和大规模数据集上的大量实验验证了有效性。结果表明，ERDA有效实现了所有未标注数据点用于学习的有效利用，并在不同设置下取得了最先进的性能。值得注意的是，我们的方法仅使用1%的真实标注即可超越全监督基线。代码和模型将在 https://github.com/LiyaoTang/ERDA 公开。
引用
@article{arxiv.2305.15832,
title = {All Points Matter: Entropy-Regularized Distribution Alignment for Weakly-supervised 3D Segmentation},
author = {Liyao Tang and Zhe Chen and Shanshan Zhao and Chaoyue Wang and Dacheng Tao},
journal= {arXiv preprint arXiv:2305.15832},
year = {2023}
}
备注
NeurIPS 2023