中文

MonoNPHM:从单目视频进行动态头部重建

计算机视觉与模式识别 2024-05-31 v2

摘要

我们提出了单目神经参数化头部模型 (MonoNPHM),用于从单目 RGB 视频进行动态 3D 头部重建。为此,我们提出了一个潜在外观空间,该空间在神经参数化模型之上参数化了一个纹理场。我们约束预测的颜色值与底层几何相关联,使得来自 RGB 的梯度在逆向渲染过程中有效影响潜在几何编码。为了增加我们表情空间的表示能力,我们用超维度增强了后向变形场,从而改善了在拓扑上具有挑战性的表情中的颜色和几何表示。使用 MonoNPHM 作为学习先验,我们通过基于符号距离场的体积渲染来处理 3D 头部重建任务。通过数值反演我们的后向变形场,我们引入了一个使用面部锚点的关键点损失,这些锚点与我们的规范几何表示紧密相关。为了评估从单目 RGB 视频进行动态面部重建的任务,我们在日常条件下录制了 20 个具有挑战性的 Kinect 序列。MonoNPHM 以显著优势超越了所有基线方法,并朝着通过 RGB 跟踪实现易于访问的神经参数化面部模型迈出了重要一步。

关键词

引用

@article{arxiv.2312.06740,
  title  = {MonoNPHM: Dynamic Head Reconstruction from Monocular Videos},
  author = {Simon Giebenhain and Tobias Kirschstein and Markos Georgopoulos and Martin Rünz and Lourdes Agapito and Matthias Nießner},
  journal= {arXiv preprint arXiv:2312.06740},
  year   = {2024}
}

备注

Project Page: see https://simongiebenhain.github.io/MonoNPHM/ ; Video: see https://youtu.be/n-wjaC3UIeE