中文

RPBG:迈向真实场景下鲁棒的神经点图形学

计算机视觉与模式识别 2024-07-12 v2

摘要

点表示最近在新视角合成中获得了广泛关注,因为其具有独特的优势,例如直观的几何表示、简单的操作以及更快的收敛速度。然而,根据我们的观察,这些基于点的神经重渲染方法仅在理想条件下表现良好,而在面对带噪、斑块化点以及无界场景时表现不佳,这些情况虽然具有挑战性但在实际应用中普遍存在。为此,我们重新审视了一种具有影响力的方法 Neural Point-based Graphics (NPBG) 作为基线,并提出了 Robust Point-based Graphics (RPBG)。我们深入分析了阻碍 NPBG 在通用数据集上获得令人满意的渲染效果的因素,并相应地重构了流程,使其对真实场景下的不同数据集更具鲁棒性。受图像恢复实践的启发,我们极大地增强了神经渲染器,实现了基于注意力的点可见性校正和不完整光栅化的修复,且仅带来可接受的开销。我们还寻求了一种简单轻量的环境建模替代方案,以及一种缓解几何质量差问题的迭代方法。通过在不同拍摄条件和相机轨迹的广泛数据集上进行全面评估,RPBG 稳定地以大幅优势优于基线,并展现出其相对于 SOTA 基于 NeRF 变体的卓越鲁棒性。代码可在 https://github.com/QT-Zhu/RPBG 获取。

关键词

引用

@article{arxiv.2405.05663,
  title  = {RPBG: Towards Robust Neural Point-based Graphics in the Wild},
  author = {Qingtian Zhu and Zizhuang Wei and Zhongtian Zheng and Yifan Zhan and Zhuyu Yao and Jiawang Zhang and Kejian Wu and Yinqiang Zheng},
  journal= {arXiv preprint arXiv:2405.05663},
  year   = {2024}
}

备注

ECCV 2024