中文

NeRF-VPT:通过视角提示调优学习神经辐射场的新视角表示

计算机视觉与模式识别 2024-03-05 v1

摘要

神经辐射场(NeRF)在新视角合成领域取得了显著成功。然而,为新视角生成高质量图像的任务仍然是一个关键挑战。尽管现有工作已取得可喜进展,但在捕捉精细细节、增强纹理以及实现更优的峰值信噪比(PSNR)指标方面,仍需进一步重点关注和提升。本文提出NeRF-VPT,一种用于新视角合成的创新方法,以应对这些挑战。所提出的NeRF-VPT采用级联视角提示调优范式,其中从先前渲染结果中获得的RGB信息作为后续渲染阶段的指导性视觉提示,期望提示中蕴含的先验知识能够促进渲染图像质量的逐步提升。NeRF-VPT在每个训练阶段仅需从上一阶段渲染中采样RGB数据作为先验,无需依赖额外引导或复杂技术。因此,NeRF-VPT即插即用,可轻松集成到现有方法中。通过在要求严苛的真实场景基准(如Realistic Synthetic 360、Real Forward-Facing、Replica数据集以及用户采集数据集)上将NeRF-VPT与多种基于NeRF的方法进行对比分析,我们证实NeRF-VPT显著提升了基线性能,并且比所有对比的最先进方法更有效地生成了更高质量的新视角图像。此外,NeRF-VPT的级联学习引入了对稀疏输入场景的适应性,从而显著提升了稀疏视角新视角合成的精度。源代码和数据集见\url{https://github.com/Freedomcls/NeRF-VPT}。

关键词

引用

@article{arxiv.2403.01325,
  title  = {NeRF-VPT: Learning Novel View Representations with Neural Radiance Fields via View Prompt Tuning},
  author = {Linsheng Chen and Guangrun Wang and Liuchun Yuan and Keze Wang and Ken Deng and Philip H. S. Torr},
  journal= {arXiv preprint arXiv:2403.01325},
  year   = {2024}
}

备注

AAAI 2024