中文

BiTT:从单张图像双向重建交互双手纹理

计算机视觉与模式识别 2024-03-26 v4

摘要

创建个性化手部化身对于在 AR/VR 平台上为用户提供逼真体验至关重要。虽然大多数先前研究侧重于重建 3D 手部形状,但近期一些工作已着手解决在形状之上重建手部纹理的问题。然而,这些方法通常局限于捕捉手部可见侧的像素,需要视频中的多视角或输入多张图像。本文提出一种新颖方法 BiTT(交互双手双向纹理重建),这是首个端到端可训练的方法,仅需单张 RGB 图像即可对交互双手进行可重光照、姿态无关的纹理重建,其包含三个新颖组件:1) 利用左/右手纹理对称性的双向(左 \leftrightarrow 右)纹理重建,2) 利用纹理参数化模型进行手部纹理恢复,以及 3) 用于重建交互双手个性化纹理的整体由粗到精阶段流水线。BiTT 首先从输入图像估计场景光照条件和反照率图像,然后通过纹理参数化模型和双向纹理重建器重建双手纹理。在使用 InterHand2.6M 和 RGB2Hands 数据集的实验中,我们的方法在定量和定性上均显著优于最先进的手部纹理重建方法。代码可在 https://github.com/yunminjin2/BiTT 获取。

关键词

引用

@article{arxiv.2403.08262,
  title  = {BiTT: Bi-directional Texture Reconstruction of Interacting Two Hands from a Single Image},
  author = {Minje Kim and Tae-Kyun Kim},
  journal= {arXiv preprint arXiv:2403.08262},
  year   = {2024}
}

备注

Accepted by CVPR 2024, Project Page: https://yunminjin2.github.io/projects/bitt/