中文

桥接隐式与显式几何变换的单图像视角合成

计算机视觉与模式识别 2024-03-18 v3 人工智能

摘要

从单幅图像创建新视角随着先进自回归模型的发展取得了巨大进步,因为不可见区域必须从可见场景内容中推断出来。尽管近期方法能生成高质量新视角,但仅使用一种显式或隐式 3D 几何进行合成,会在我们称之为“跷跷板”问题的两个目标间存在权衡:1)保留重投影内容;2)补全逼真的视场外区域。此外,自回归模型需要可观的计算成本。本文提出一种单图像视角合成框架,在利用高效非自回归模型的同时缓解跷跷板问题。受显式方法良好保留重投影像素、隐式方法补全逼真视场外区域这一特性启发,我们引入一种损失函数以互补两种渲染器。我们的损失函数促使显式特征改善隐式特征的投影区域,而隐式特征改善显式特征的视场外区域。借助所提架构与损失函数,我们能缓解跷跷板问题,优于基于自回归的当前最优方法,并以约快 \approx100 倍的速度生成图像。我们在 RealEstate10K 和 ACID 数据集上通过实验验证了方法的效率与有效性。

关键词

引用

@article{arxiv.2209.07105,
  title  = {Bridging Implicit and Explicit Geometric Transformation for Single-Image View Synthesis},
  author = {Byeongjun Park and Hyojun Go and Changick Kim},
  journal= {arXiv preprint arXiv:2209.07105},
  year   = {2024}
}

备注

TPAMI 2024