去偏 2D 扩散的分数与提示以实现视角一致的文本到 3D 生成
计算机视觉与模式识别
2023-12-21 v5 计算与语言
图形学
机器学习
摘要
现有的分数蒸馏文本到 3D 生成技术虽有可观前景,却常遭遇视角不一致问题。其中最显著的问题之一是 Janus 问题,即物体最具代表性的视角(如面部或头部)出现在其他视角中。本工作中,我们探究现有分数蒸馏文本到 3D 生成框架,并识别出视角不一致问题的主要成因——2D 扩散模型内嵌的偏差。基于这些发现,我们提出两种方法来去偏分数蒸馏框架,以实现视角一致的文本到 3D 生成。我们的第一种方法称为分数去偏,其切断 2D 扩散模型估计的分数,并在优化过程中逐步增大截断值。第二种方法称为提示去偏,其利用语言模型识别用户提示与视角提示间的冲突词,并调整视角提示与物体观看方向间的差异。实验结果表明,我们的方法通过显著减少伪影提升了生成 3D 物体的真实感,并以极小开销在忠实于 2D 扩散模型与 3D 一致性间取得良好权衡。项目页面见~\url{https://susunghong.github.io/Debiased-Score-Distillation-Sampling/}。
引用
@article{arxiv.2303.15413,
title = {Debiasing Scores and Prompts of 2D Diffusion for View-consistent Text-to-3D Generation},
author = {Susung Hong and Donghoon Ahn and Seungryong Kim},
journal= {arXiv preprint arXiv:2303.15413},
year = {2023}
}
备注
Accepted to NeurIPS 2023. Project Page: https://susunghong.github.io/Debiased-Score-Distillation-Sampling/