GenNBV:用于主动 3D 重建的可泛化次佳视点策略
计算机视觉与模式识别
2024-07-31 v3 人工智能
机器人学
摘要
虽然神经辐射场(NeRF)的最新进展实现了大规模场景的真实数字化,但图像捕捉过程仍然耗时且费力。先前的工作尝试使用次佳视点(NBV)策略来实现主动 3D 重建的自动化。然而,现有的 NBV 策略严重依赖手工制定的标准、有限的动作空间或针对特定场景优化的表示。这些限制限制了它们的跨数据集泛化能力。为了克服这些问题,我们提出了 GenNBV,一种端到端的可泛化 NBV 策略。我们的策略采用基于强化学习(RL)的框架,并将典型的有限动作空间扩展至 5D 自由空间。这使得我们的智能体无人机能够从任何视点进行扫描,甚至在训练期间与未见过的几何体进行交互。为了提高跨数据集的泛化能力,我们还提出了一种新颖的多源状态嵌入,包括几何、语义和动作表示。我们利用 Isaac Gym 模拟器以及 Houses3K 和 OmniObject3D 数据集建立了一个基准,以评估该 NBV 策略。实验表明,我们的策略在这些数据集中未见过的建筑尺度物体上分别达到了 98.26% 和 97.12% 的覆盖率,优于先前的解决方案。
引用
@article{arxiv.2402.16174,
title = {GenNBV: Generalizable Next-Best-View Policy for Active 3D Reconstruction},
author = {Xiao Chen and Quanyi Li and Tai Wang and Tianfan Xue and Jiangmiao Pang},
journal= {arXiv preprint arXiv:2402.16174},
year = {2024}
}
备注
CVPR 2024 accepted paper. Project page: http://gennbv.github.io/