中文

FewViewGS:基于少视图匹配与多阶段训练的高斯溅射

计算机视觉与模式识别 2024-11-07 v2

摘要

从图像进行新视角合成的领域随着神经辐射场(NeRF)的引入以及最近 3D 高斯溅射的出现而取得了快速进展。高斯溅射因其效率和准确渲染新视角的能力而被广泛采用。虽然高斯溅射在训练图像充足时表现良好,但其非结构化显式表示在输入图像稀疏的场景中容易过拟合,导致渲染性能不佳。为解决这一问题,我们提出了一种基于 3D 高斯的少样本新视角合成方法,使用稀疏输入图像即可准确渲染训练图像未覆盖视角的场景。我们提出了一种多阶段训练方案,通过利用可用训练图像的匹配来监督训练帧之间采样新视角的生成,在不依赖预训练深度估计或扩散模型的情况下施加基于匹配的约束一致性。这通过颜色、几何和语义损失来实现。此外,我们引入了一种 3D 高斯的局部保持正则化,通过保持场景的局部颜色结构来消除渲染伪影。在合成和真实数据集上的评估表明,我们的方法在少样本新视角合成方面与现有最先进方法相比具有竞争力或更优的性能。

关键词

引用

@article{arxiv.2411.02229,
  title  = {FewViewGS: Gaussian Splatting with Few View Matching and Multi-stage Training},
  author = {Ruihong Yin and Vladimir Yugay and Yue Li and Sezer Karaoglu and Theo Gevers},
  journal= {arXiv preprint arXiv:2411.02229},
  year   = {2024}
}

备注

Accepted by NeurIPS2024