中文

DynIBaR:基于神经动态图像的新视角合成方法

计算机视觉与模式识别 2023-04-25 v3

摘要

我们致力于解决从描绘复杂动态场景的单目视频中合成新视角的问题。基于时变神经辐射场(即动态 NeRF)的最先进方法在该任务上已展现出令人印象深刻的成果。然而,对于具有复杂物体运动和非受控相机轨迹的长视频,这些方法会产生模糊或不准确的渲染,阻碍了它们在现实世界应用中的使用。我们提出了一种新方法,不再将整个动态场景编码于 MLP 的权重中,而是通过采用体积图像渲染框架来克服这些局限,该框架以场景运动感知的方式聚合邻近视图的特征来合成新视角。我们的系统保留了先前方法在建模复杂场景和视角相关效果方面的优势,同时能够从具有非受控相机轨迹的复杂场景动态的长视频中合成照片级真实感的新视角。我们在动态场景数据集上展示了相较最先进方法的显著改进,并将我们的方法应用于具有挑战性相机与物体运动的真实视频,而先前方法无法产生高质量渲染。我们的项目网页位于 dynibar.github.io。

关键词

引用

@article{arxiv.2211.11082,
  title  = {DynIBaR: Neural Dynamic Image-Based Rendering},
  author = {Zhengqi Li and Qianqian Wang and Forrester Cole and Richard Tucker and Noah Snavely},
  journal= {arXiv preprint arXiv:2211.11082},
  year   = {2023}
}

备注

Award Candidate, CVPR 2023 Project page: dynibar.github.io