中文

GSEditPro:基于注意力的渐进式定位的 3D 高斯泼溅编辑

计算机视觉与模式识别 2024-11-18 v1

摘要

随着大规模文本到图像(T2I)模型和神经辐射场(NeRF)等隐式 3D 表征的出现,涌现了许多基于 NeRF 的文本驱动生成式编辑方法。然而,几何和纹理信息的隐式编码给编辑过程中的精准定位和物体控制带来了挑战。近期,3D 高斯泼溅(一种依赖显式表征的实时渲染技术)的编辑方法取得了显著进展。然而,这些方法仍存在定位不准确和编辑操控受限等问题。为应对这些挑战,我们提出了 GSEditPro,一种新颖的 3D 场景编辑框架,允许用户仅使用文本提示执行各种创意且精确的编辑。利用 3D 高斯分布的显式特性,我们引入了一个基于注意力的渐进式定位模块,在渲染过程中为每个高斯添加语义标签。这通过根据来自 T2I 模型交叉注意力层的编辑提示相关性对高斯进行分类,实现了对编辑区域的精准定位。此外,我们提出了一种基于 3D 高斯泼溅的创新编辑优化方法,在得分蒸馏采样和伪真值的指导下获得稳定且精细的编辑结果。大量实验证明了该方法的有效性。

关键词

引用

@article{arxiv.2411.10033,
  title  = {GSEditPro: 3D Gaussian Splatting Editing with Attention-based Progressive Localization},
  author = {Yanhao Sun and RunZe Tian and Xiao Han and XinYao Liu and Yan Zhang and Kai Xu},
  journal= {arXiv preprint arXiv:2411.10033},
  year   = {2024}
}

备注

Pacific Graphics 2024