中文

RePoseDM:用于姿态引导图像合成的循环姿态对齐与梯度引导

计算机视觉与模式识别 2024-04-12 v2

摘要

姿态引导的人体图像合成任务需要对参考图像进行重新渲染,其应具有真实感外观与无瑕疵的姿态迁移。由于人体图像具有高度结构化的特点,现有方法需要密集连接来处理复杂形变与遮挡,因为这些通常通过潜空间中的多级warping与掩码来处理。卷积神经网络生成的特征图不具备等变性,因此需要多级warping来执行姿态对齐。受扩散模型从给定条件引导生成真实感图像能力的启发,我们提出循环姿态对齐以提供姿态对齐的纹理特征作为条件引导。由于条件引导中源姿态的泄漏,我们提出来自姿态交互场的梯度引导,其在给定预测姿态作为输入时输出距有效姿态流形的距离。这有助于学习合理的姿态迁移轨迹,从而实现真实感与无失真纹理细节。在两个大规模基准及用户研究上的大量结果表明,我们所提方法能在具挑战性场景下生成真实感姿态迁移。此外,我们在HumanArt数据集上以微调的stable diffusion展示了梯度引导在姿态引导图像生成中的有效性。

关键词

引用

@article{arxiv.2310.16074,
  title  = {RePoseDM: Recurrent Pose Alignment and Gradient Guidance for Pose Guided Image Synthesis},
  author = {Anant Khandelwal},
  journal= {arXiv preprint arXiv:2310.16074},
  year   = {2024}
}

备注

Accepted at CVPR 2024 SyntaGen Workshop, 13 pages, 4 tables, 7 figures