ReLoo:从野生单目视频中重建穿宽松服装的人员模型
计算机视觉与模式识别
2024-10-01 v2
摘要
尽管过去的几年在从单目视频中重建人类的3D模型方面取得了很大进展,但鲜有前沿方法能够处理穿宽松服装的人员,后者在活动时会发生大规模非刚性表面变形。这限制了此类方法仅能应用于穿标准裤子或T恤的人士。我们的方法ReLoo克服了这一限制,能够从单目野生视频中重建穿宽松服装人员的高质量3D模型。为解决此问题,我们首先建立了分层神经人体表示,将穿衣人员分解为神经内在身体和外层服装。在分层神经表示之上,我们进一步引入非层次虚拟骨骼变形模块用于服装层,这允许自由移动,从而实现对非刚性变形宽松服装的准确恢复。全局优化通过多层可微分体积渲染联合优化人体和服装的形状、外观和变形。为评估ReLoo,我们记录了在多视角捕捉工作室中进行动态变形服装的受试者。该评估在现有数据集和我们新的数据集上,都在室内数据集和野生视频中显示了ReLoo相较于前人工作的显著优势。
引用
@article{arxiv.2409.15269,
title = {ReLoo: Reconstructing Humans Dressed in Loose Garments from Monocular Video in the Wild},
author = {Chen Guo and Tianjian Jiang and Manuel Kaufmann and Chengwei Zheng and Julien Valentin and Jie Song and Otmar Hilliges},
journal= {arXiv preprint arXiv:2409.15269},
year = {2024}
}
备注
Project page: https://moygcc.github.io/ReLoo/