中文

RoGUENeRF:一种面向 NeRF 的鲁棒几何一致通用增强器

计算机视觉与模式识别 2024-07-24 v2

摘要

神经渲染的最新进展使得高度逼真的 3D 场景重建和新视角合成成为可能。尽管取得了这些进展,由于辐射场的低频偏差和不精确的相机标定等因素,当前最先进的方法仍难以重建高频细节。缓解该问题的一种途径是对渲染后的图像进行增强。2D 增强器可以通过预训练恢复部分细节,但其对场景几何一无所知,且难以泛化到新的图像退化分布。相反,现有的 3D 增强器能够以可泛化的方式从邻近训练图像中迁移细节,但受限于不精确的相机标定,并可能将几何误差传播至渲染图像中。我们提出了一种神经渲染增强器 RoGUENeRF,它结合了这两种范式的优点。我们的方法通过预训练学习通用增强器,同时利用鲁棒的 3D 对齐和几何感知融合从邻近训练图像中提取信息。该方法在恢复高频纹理的同时保持了几何一致性,并且对不精确的相机标定具有鲁棒性。我们表明,RoGUENeRF 显著提升了多种神经渲染基线的渲染质量,例如在真实世界 360v2 数据集上将 MipNeRF360 的 PSNR 提高了 0.63dB,将 Nerfacto 提高了 1.34dB。

关键词

引用

@article{arxiv.2403.11909,
  title  = {RoGUENeRF: A Robust Geometry-Consistent Universal Enhancer for NeRF},
  author = {Sibi Catley-Chandar and Richard Shaw and Gregory Slabaugh and Eduardo Perez-Pellitero},
  journal= {arXiv preprint arXiv:2403.11909},
  year   = {2024}
}

备注

Accepted to ECCV 2024. Project Page: https://sib1.github.io/projects/roguenerf/