中文

ARTS:基于解缠解骨表示的半解析回归器,用于从视频中恢复人体网格

计算机视觉与模式识别 2024-10-22 v1

摘要

尽管现有的基于视频的人体3D网格恢复方法取得了显著进展,但同时从低分辨率图像特征中估计人体姿态和形状仍受限于其性能。这些图像特征缺乏关于人体的足够空间信息,并且包含各种噪声(如背景、光照和服装),这常常导致姿态不准确且运动不一致。受人体姿态估计快速进步的启发,我们发现与图像特征相比,骨架本身包含准确的人体姿态和运动信息。因此,我们提出了一种新型半解析回归器,使用解缠解骨表示用于从视频中恢复人体网格,称为ARTS。具体而言,提出了骨架估计和解缠模块,用于从视频中估计3D骨架并将其解耦为解缠骨架表示(即关节位置、骨长和人体运动)。然后,为充分利用这些表示,我们引入了半解析回归器来估计人体网格模型的参数。回归器包含三个模块:Temporal Inverse Kinematics (TIK)、Bone-guided Shape Fitting (BSF)和Motion-Centric Refinement (MCR)。TIK利用关节位置来估计初始姿态参数,BSF利用骨长来回归骨对齐形状参数。最后,MCR将人体运动表示与图像特征组合,以细化初始人体模型参数。广泛的实验表明,我们的ARTS在流行基准测试(3DPW、MPI-INF-3DHP和Human3.6M)上的每帧准确率和时间一致性均优于现有最先进的基于视频的方法。代码可在https://github.com/TangTao-PKU/ARTS获取。

关键词

引用

@article{arxiv.2410.15582,
  title  = {ARTS: Semi-Analytical Regressor using Disentangled Skeletal Representations for Human Mesh Recovery from Videos},
  author = {Tao Tang and Hong Liu and Yingxuan You and Ti Wang and Wenhao Li},
  journal= {arXiv preprint arXiv:2410.15582},
  year   = {2024}
}

备注

Accepted by ACM MM 2024. Project page: https://github.com/TangTao-PKU/ARTS