MvDrag3D:基于多视图生成-重建先验的拖拽式创意 3D 编辑
计算机视觉与模式识别
2024-10-22 v1
摘要
拖拽式编辑在 2D 内容创作中日益流行,得益于图像生成模型的能力。然而,将这一技术扩展到 3D 仍是一个挑战。现有的 3D 拖拽式编辑方法,无论是采用显式空间变换还是依赖于有限容量 3D 生成模型中隐式的 latent 优化,都难以处理显著的拓扑变化或在不同物品类别间生成新的纹理。为克服这些限制,我们提出了 MVDrag3D,一个用于更灵活和创意拖拽式 3D 编辑的新框架,利用多视图生成和重建先验。我们方法的核心在于使用多视图扩散模型作为强大的生成先验,对多个渲染视图执行一致的拖拽编辑,随后使用重建模型对编辑后的物体进行 3D 高斯重建。虽然初始的 3D 高斯在不同视图之间可能存在对齐问题,但我们通过视图特定变形网络来调整高斯的位置,以实现良好的对齐。此外,我们提出了多视图得分函数,从多个视图中提炼生成先验,以进一步提升视图一致性和视觉质量。大量实验表明,MvDrag3D 提供了一个精确、生成且灵活的 3D 拖拽式编辑解决方案,支持在各种物品类别和 3D 表示形式中实现更加多样化的编辑效果。
引用
@article{arxiv.2410.16272,
title = {MvDrag3D: Drag-based Creative 3D Editing via Multi-view Generation-Reconstruction Priors},
author = {Honghua Chen and Yushi Lan and Yongwei Chen and Yifan Zhou and Xingang Pan},
journal= {arXiv preprint arXiv:2410.16272},
year = {2024}
}
备注
16 pages, 10 figures, conference