中文

SphereHead:基于球面三平面表示的稳定 3D 全头合成

计算机视觉与模式识别 2024-07-17 v2

摘要

尽管 3D 感知生成对抗网络(GANs)的最新进展促进了近正面视角人脸合成的开发,但全方位合成可从所有角度观察的完整 3D 头部的挑战依然存在。尽管 PanoHead 证明了使用包含正面和背面图像的大规模数据集进行全头合成的可能性,但它在背面视角下常会产生伪影。基于我们的深入分析,我们发现原因主要有两方面。首先,从网络架构角度来看,我们发现所利用的三平面/三网格表示空间中的每个平面往往会混淆两侧的特征,导致“镜像”伪影(例如,眼镜出现在背面)。其次,从数据监督角度来看,我们发现 3D GANs 中现有的判别器训练主要关注渲染图像本身的质量,而不太关心其与渲染视角的合理性关系。这使得在非正面视角下生成“人脸”成为可能,因为很容易欺骗判别器。作为回应,我们提出了 SphereHead,一种在球坐标系中符合人体头部几何特征的新型三平面表示,可有效减少许多生成的伪影。我们进一步为判别器引入了视图-图像一致性损失,以强调相机参数与图像之间的对应关系。这些努力的结合产生了视觉上更优的结果,且伪影显著减少。我们的代码和数据集公开于 https://lhyfst.github.io/spherehead。

关键词

引用

@article{arxiv.2404.05680,
  title  = {SphereHead: Stable 3D Full-head Synthesis with Spherical Tri-plane Representation},
  author = {Heyuan Li and Ce Chen and Tianhao Shi and Yuda Qiu and Sizhe An and Guanying Chen and Xiaoguang Han},
  journal= {arXiv preprint arXiv:2404.05680},
  year   = {2024}
}

备注

Accepted by ECCV 2024. Project page: https://lhyfst.github.io/spherehead