中文

FruitNeRF:基于神经辐射场的统一水果计数框架

计算机视觉与模式识别 2024-09-27 v2

摘要

我们提出了FruitNeRF,一个统一的新型水果计数框架,利用最先进的视图合成方法直接在三维空间中计数任意水果类型。我们的框架接收由单目相机拍摄的无序姿态图像集合,并对每幅图像中的水果进行分割。为使系统独立于水果类型,我们采用了一个基础模型,可为任意水果生成二值分割掩码。利用RGB和语义两种模态,我们训练了一个语义神经辐射场。通过对隐式Fruit Field进行均匀体采样,我们获得仅含水果的点云。对提取的点云应用级联聚类后,我们的方法实现了精确的水果计数。神经辐射场的使用相较于物体追踪或光流等传统方法具有显著优势,因为计数本身被提升到了三维空间。我们的方法有效避免了水果的重复计数以及无关水果的误计数。我们在真实数据和合成数据集上评估了方法。真实数据集包含三棵苹果树及其人工计数真值,以及一个含单行和水果位置真值的基准苹果数据集;合成数据集则涵盖苹果、李子、柠檬、梨、桃子和芒果等多种水果类型。此外,我们评估了使用基础模型与使用U-Net进行水果计数的性能差异。

关键词

引用

@article{arxiv.2408.06190,
  title  = {FruitNeRF: A Unified Neural Radiance Field based Fruit Counting Framework},
  author = {Lukas Meyer and Andreas Gilson and Ute Schmid and Marc Stamminger},
  journal= {arXiv preprint arXiv:2408.06190},
  year   = {2024}
}

备注

Project Page: https://meyerls.github.io/fruit_nerf/