从 NeRFLiX 到 NeRFLiX++:一种通用的与 NeRF 无关的恢复范式
计算机视觉与模式识别
2023-12-15 v3
摘要
神经辐射场(NeRF)在新视角合成中已显示出巨大成功。然而,由于潜在的不完美标定信息和场景表示不准确性,从真实世界场景中恢复高质量细节对现有基于 NeRF 的方法仍具挑战性。即使使用高质量训练帧,NeRF 模型合成的 novel views 仍遭受显著的渲染伪影,如噪声和模糊。为此,我们提出 NeRFLiX,一种通用的与 NeRF 无关的恢复器范式,其学习一个退化驱动的视角间混合器。具体而言,我们设计了一种 NeRF 风格的退化建模方法并构建大规模训练数据,使深度神经网络有效去除 NeRF 原生渲染伪影成为可能。此外,除退化去除外,我们提出一种视角间聚合框架,融合高度相关的优质训练图像,将前沿 NeRF 模型的性能推向全新水平并生成高度照片级真实的合成视图。基于此范式,我们进一步提出 NeRFLiX++,具有更强的两阶段 NeRF 退化模拟器和更快的视角间混合器,以显著提升的计算效率实现优越性能。值得注意的是,NeRFLiX++ 能够从含噪低分辨率 NeRF 渲染视图中恢复照片级真实的超高分辨率输出。大量实验证明了 NeRFLiX++ 在各种新视角合成基准上的优异恢复能力。
引用
@article{arxiv.2306.06388,
title = {From NeRFLiX to NeRFLiX++: A General NeRF-Agnostic Restorer Paradigm},
author = {Kun Zhou and Wenbo Li and Nianjuan Jiang and Xiaoguang Han and Jiangbo Lu},
journal= {arXiv preprint arXiv:2306.06388},
year = {2023}
}
备注
17 pages, 17 figures. To appear in TPAMI2023. Project Page: https://redrock303.github.io/nerflix_plus/. arXiv admin note: text overlap with arXiv:2303.06919