MEGANE:可变形眼镜与虚拟人网络
计算机视觉与模式识别
2023-02-10 v1 图形学
摘要
眼镜在身份感知中扮演重要角色。人脸的真实虚拟表示可极大受益于纳入眼镜。然而,对虚拟人表示中眼镜与面部的几何和外观交互进行建模具有挑战性。眼镜和面部在接触点相互影响彼此几何,并因光传输引起外观变化。多数现有方法因独立建模眼镜和面部而未捕捉这些物理交互。其他方法试图将交互作为2D图像合成问题解决,并受限于视角和时间不一致性。本工作中,我们提出一种眼镜的3D组合可变形模型,精确纳入高保真几何和光度交互效应。为高效支持眼镜拓扑的大变化,我们采用结合表面几何与体表示的混合表示。与体方法不同,我们的模型自然保留眼镜间对应关系,因此几何的显式修改(如镜片插入和镜架变形)大为简化。此外,我们的模型在点光源和自然光照下可重打光,支持在单一可变形模型内高保真渲染包括半透明塑料和金属在内的多种镜架材料。重要的是,我们的方法建模全局光传输效应,如面部与眼镜间投射阴影。我们的眼镜可变形模型也可通过逆渲染拟合到新颖眼镜。我们与最先进方法比较并展示显著质量提升。
引用
@article{arxiv.2302.04868,
title = {MEGANE: Morphable Eyeglass and Avatar Network},
author = {Junxuan Li and Shunsuke Saito and Tomas Simon and Stephen Lombardi and Hongdong Li and Jason Saragih},
journal= {arXiv preprint arXiv:2302.04868},
year = {2023}
}
备注
Project page: https://junxuan-li.github.io/megane/