MVPaint:同步多视图扩散用于任意 3D 绘制
计算机视觉与模式识别
2024-11-05 v1
摘要
纹理映射是 3D 资产生产工作流中的关键步骤,可增强 3D 资产的视觉吸引力和多样性。尽管最近在文本到纹理(T2T)生成方面取得了进展,但现有方法通常产生次优结果,主要由于局部不连续性、多视图之间的一致性问题以及对 UV 展开结果的严重依赖。为应对这些挑战,我们提出了一种新颖的生成-细化 3D 纹理框架 MVPaint,可生成高分辨率、无缝纹理,同时强调多视图一致性。MVPaint 主要由三个关键模块组成。1)同步多视图生成(SMG)。给定一个 3D 网格模型,MVPaint 首先通过采用 SMG 模型同时生成多视图图像,由于缺失观测导致产生带有未绘制区域的粗纹理结果。2)空间感知 3D 修复(S3I)。为确保完整的 3D 纹理映射,我们引入了 S3I 方法,专门设计用于有效纹理化先前未观测到的区域。3)UV 细化(UVR)。此外,MVPaint 采用 UVR 模块来提升 UV 空间中的纹理质量,该模块首先执行 UV 空间超分辨率,然后进行空间感知接缝平滑算法,以修正由 UV 展开引起的空间纹理不连续性。此外,我们建立了两个 T2T 评估基准:基于 Objaverse 数据集中选定高质量 3D 网格的 Objaverse T2T 基准,以及基于整个 GSO 数据集的 GSO T2T 基准。大量实验结果表明,MVPaint 超越了现有最先进方法。值得注意的是,MVPaint 可以生成具有最小 Janus 效应和高增强跨视图一致性的高保真纹理。
引用
@article{arxiv.2411.02336,
title = {MVPaint: Synchronized Multi-View Diffusion for Painting Anything 3D},
author = {Wei Cheng and Juncheng Mu and Xianfang Zeng and Xin Chen and Anqi Pang and Chi Zhang and Zhibin Wang and Bin Fu and Gang Yu and Ziwei Liu and Liang Pan},
journal= {arXiv preprint arXiv:2411.02336},
year = {2024}
}
备注
Project Page: https://mvpaint.github.io