中文

AR-NeRF:基于孔径渲染神经辐射场从自然图像中无监督学习深度与散焦效应

计算机视觉与模式识别 2022-06-14 v1 人工智能 图形学 机器学习 图像与视频处理

摘要

完全无监督的3D表示学习因其数据采集优势而受到关注。一种成功的方法采用视角感知方法,基于生成模型(如生成对抗网络(GAN))学习图像分布,同时基于3D感知模型(如神经辐射场(NeRF))生成多种视角图像。然而,它们需要具有多种视角的图像进行训练,因此其在视角较少或受限的数据集上的应用仍具挑战。作为一种补充方法,提出了利用散焦线索的孔径渲染GAN(AR-GAN)。然而,AR-GAN是基于CNN的模型,并将散焦与视角变化独立表示,尽管二者高度相关,这也是其性能受限的原因之一。作为AR-GAN的替代方案,我们提出了孔径渲染NeRF(AR-NeRF),它通过在统一的射线追踪框架中表示这两种因素,能够以统一方式利用视角和散焦线索。此外,为以解耦方式学习散焦感知与散焦无关的表示,我们提出了孔径随机化训练,通过独立随机化孔径大小和潜码来学习生成图像。在实验中,我们将AR-NeRF应用于包括花卉、鸟类和人脸图像在内的多种自然图像数据集,结果证明了AR-NeRF在深度与散焦效应无监督学习中的效用。

关键词

引用

@article{arxiv.2206.06100,
  title  = {AR-NeRF: Unsupervised Learning of Depth and Defocus Effects from Natural Images with Aperture Rendering Neural Radiance Fields},
  author = {Takuhiro Kaneko},
  journal= {arXiv preprint arXiv:2206.06100},
  year   = {2022}
}

备注

Accepted to CVPR 2022. Project page: https://www.kecl.ntt.co.jp/people/kaneko.takuhiro/projects/ar-nerf/