NeRSemble:人体头部的多视角辐射场重建
计算机视觉与模式识别
2023-09-15 v1
摘要
我们致力于重建高保真的人体头部辐射场,捕捉其随时间变化的动画,并从任意时间步的新视角合成重新渲染图像。为此,我们提出了一种由16台标定机器视觉相机组成的新型多视角采集装置,该装置以7.1 MP分辨率和每秒73帧记录时间同步图像。借助该装置,我们收集了超过220个人体头部的4700余条高分辨率、高帧率序列,并由此引入了一个新的头部重建基准。所记录的序列涵盖了广泛的面部动态,包括头部运动、自然表情、情绪以及言语。为了重建高保真人体头部,我们提出了使用哈希集成动态神经辐射场(NeRSemble)。我们通过结合形变场与一组3D多分辨率哈希编码来表示场景动态。形变场可精确建模简单场景运动,而哈希编码集成有助于表示复杂动态。因此,我们获得了捕捉随时间运动并便于任意新视角重新渲染的人体头部辐射场表示。在一系列实验中,我们探究了方法的设计选择,并证明我们的方法显著优于最先进的动态辐射场方法。
引用
@article{arxiv.2305.03027,
title = {NeRSemble: Multi-view Radiance Field Reconstruction of Human Heads},
author = {Tobias Kirschstein and Shenhan Qian and Simon Giebenhain and Tim Walter and Matthias Nießner},
journal= {arXiv preprint arXiv:2305.03027},
year = {2023}
}
备注
Siggraph 2023, Project Page: https://tobias-kirschstein.github.io/nersemble/ , Video: https://youtu.be/a-OAWqBzldU