中文

HeadStudio:基于 3D 高斯泼溅的文本到可动画化头部化身

计算机视觉与模式识别 2024-12-24 v2

摘要

从文本提示创建数字化身一直是一项令人向往但具有挑战性的任务。尽管基于 2D 扩散先验的方法取得了有希望的结果,但当前方法在高效创建高质量且一致的可动画化化身方面仍面临困难。之前的可动画化头部模型(如 FLAME)难以准确表示详细的纹理和几何结构。此外,高质量的 3D 静态表示在利用动态先验进行语义驱动方面也面临挑战。在本文中,我们介绍了\textbf{HeadStudio},这是一个利用 3D 高斯泼溅从文本提示生成逼真且可动画化化身的新型框架。首先,我们将 3D 高斯与可动画化头部先验模型关联起来,从而在高质量 3D 表示上促进语义动画。为确保动画的一致性,我们进一步增强了从初始化、蒸馏到正则化的优化过程,以联合学习形状、纹理和动画。大量实验证明了 HeadStudio 在从文本提示生成具有吸引人外观的可动画化化身方面的有效性。这些化身能够以 1024 分辨率渲染高质量实时(40\geq 40 fps)新视角。此外,这些化身可以由现实世界的语音和视频平滑驱动。我们希望 HeadStudio 能够增强数字化身的创建并在社区中普及。代码地址:https://github.com/ZhenglinZhou/HeadStudio。

关键词

引用

@article{arxiv.2402.06149,
  title  = {HeadStudio: Text to Animatable Head Avatars with 3D Gaussian Splatting},
  author = {Zhenglin Zhou and Fan Ma and Hehe Fan and Zongxin Yang and Yi Yang},
  journal= {arXiv preprint arXiv:2402.06149},
  year   = {2024}
}

备注

26 pages, 18 figures, accepted by ECCV 2024