中文

LAM3D:用于从单图像重建的大规模图像-点云对齐模型

计算机视觉与模式识别 2024-05-27 v1

摘要

大规模重建模型在从单张或多张输入图像中自动生成 3D 内容方面取得了显著进展。尽管如此,这些模型常常产生几何误差的 3D 网格,源于仅凭图像数据推断 3D 形状的内在难题。本文引入一种新框架,即大规模图像和点云对齐模型(LAM3D),利用 3D 点云数据来提高生成 3D 网格的保真度。我们的 методology 开始于开发一种基于点云的网络,有效生成精确且富有意义的潜在三平面,从而为准确的 3D 网格重建奠定基础。随后,我们的图像-点云特征对齐技术处理单张输入图像,将其对齐到潜在三平面,以将图像特征具备强大的 3D 信息。该过程不仅丰富了图像特征,也促进了在无需多视角输入的情况下生成高保真度 3D 网格,显著降低了几何畸变。我们的做法仅用 6 秒即可实现从单张图像实现最先进的高保真度 3D 网格重建,实验在多个数据集上均证明了其有效性。

关键词

引用

@article{arxiv.2405.15622,
  title  = {LAM3D: Large Image-Point-Cloud Alignment Model for 3D Reconstruction from Single Image},
  author = {Ruikai Cui and Xibin Song and Weixuan Sun and Senbo Wang and Weizhe Liu and Shenzhou Chen and Taizhang Shang and Yang Li and Nick Barnes and Hongdong Li and Pan Ji},
  journal= {arXiv preprint arXiv:2405.15622},
  year   = {2024}
}

备注

19 pages, 10 figures