中文

InterHandGen:基于级联反向扩散的双手交互生成

计算机视觉与模式识别 2024-03-27 v1

摘要

我们提出了InterHandGen,一个学习双手交互生成先验的新颖框架。从我们的模型中采样,可以生成在有或无物体情况下紧密交互的、合理且多样的双手形状。我们的先验可以融入任何优化或学习方法中,以减少不适定设置中的歧义。我们的关键观察是,直接建模多个实例的联合分布因其组合性质而带来高学习复杂度。因此,我们提出将联合分布建模分解为因子化的无条件和条件单实例分布建模。特别地,我们引入了一个扩散模型,通过条件丢弃(conditioning dropout)学习单手分布的无条件及以另一只手为条件的条件分布。在采样时,我们结合了反穿透和免分类器引导以实现合理生成。此外,我们建立了严格的双手合成评估协议,我们的方法在合理性和多样性上显著优于基线生成模型。我们还证明,我们的扩散先验可以提升从单目自然图像进行双手重建的性能,达到新的最先进精度。

关键词

引用

@article{arxiv.2403.17422,
  title  = {InterHandGen: Two-Hand Interaction Generation via Cascaded Reverse Diffusion},
  author = {Jihyun Lee and Shunsuke Saito and Giljoo Nam and Minhyuk Sung and Tae-Kyun Kim},
  journal= {arXiv preprint arXiv:2403.17422},
  year   = {2024}
}

备注

Accepted to CVPR 2024, project page: https://jyunlee.github.io/projects/interhandgen/