中文

ScalingGaussian:通过生成性高斯溅出提升 3D 内容创建

计算机视觉与模式识别 2024-07-30 v1

摘要

高质量 3D 资产的创建对于数字遗产保存、娱乐和机器人等应用至关重要。传统上,这一过程需要专业人士和专业软件进行建模、纹理处理和渲染。然而,随着游戏和虚拟现实 (VR) 中 3D 资产需求的提高,图像到 3D 的技术不断涌现,使非专业人士能够生产 3D 内容,减少对专家输入的依赖。现有方法在实现详细纹理和强几何一致性方面存在困难。我们引入一种新型 3D 内容创建框架 ScalingGaussian,通过结合 3D 和 2D 扩散模型实现详细纹理和几何一致性。初始阶段,3D 扩散模型生成点云;随后通过选择局部区域、引入高斯噪声,再利用局部密度加权选择进行稠密化。为细化 3D 高斯,我们利用 2D 扩散模型配合 Score Distillation Sampling (SDS) 损失,引导 3D 高斯进行克隆和分裂。最后,将 3D 高斯转换为网格,并通过均方误差 (MSE) 和梯度轮廓先验 (GPP) 损失优化表面纹理。我们的方法解决了 3D 扩散中稀疏点云的常见问题,实现了改进的几何结构和详细纹理。在图像到 3D 任务上的实验表明,我们的方法有效地生成了高质量的 3D 资产。

关键词

引用

@article{arxiv.2407.19035,
  title  = {ScalingGaussian: Enhancing 3D Content Creation with Generative Gaussian Splatting},
  author = {Shen Chen and Jiale Zhou and Zhongyu Jiang and Tianfang Zhang and Zongkai Wu and Jenq-Neng Hwang and Lei Li},
  journal= {arXiv preprint arXiv:2407.19035},
  year   = {2024}
}

备注

14 pages