DreaMo:从单个随手拍摄视频进行铰接式三维重建
计算机视觉与模式识别
2023-12-11 v2 图形学
摘要
铰接式三维重建在各个领域都有宝贵的应用,但仍然成本高昂且需要领域专家的密集投入。无模板学习方法的最新进展在单目视频上显示出有前景的结果。然而,这些方法需要输入视频中全面覆盖主体的所有视角,从而限制了它们对来自在线资源的随手拍摄视频的适用性。在这项工作中,我们研究从单个随手拍摄的互联网视频进行铰接式三维形状重建,其中主体的视角覆盖不完整。我们提出了DreaMo,它在进行形状重建的同时,利用视角条件扩散先验和若干定制正则化来解决具有挑战性的低覆盖区域。此外,我们引入了一种骨架生成策略,从学习到的神经骨骼和蒙皮权重创建人类可解释的骨架。我们在一个以视角覆盖不完整为特征的自收集互联网视频集上进行研究。DreaMo在新视角渲染、详细的铰接式形状重建和骨架生成方面显示出有前景的质量。广泛的定性和定量研究验证了每个提出组件的有效性,并表明现有方法由于视角覆盖不完整而无法求解正确的几何形状。
引用
@article{arxiv.2312.02617,
title = {DreaMo: Articulated 3D Reconstruction From A Single Casual Video},
author = {Tao Tu and Ming-Feng Li and Chieh Hubert Lin and Yen-Chi Cheng and Min Sun and Ming-Hsuan Yang},
journal= {arXiv preprint arXiv:2312.02617},
year = {2023}
}
备注
Project page: https://ttaoretw.github.io/DreaMo/