中文

寻你所欲:面向需求驱动导航的需求条件化物体属性空间学习

机器人学 2023-11-07 v3 人工智能

摘要

视觉物体导航(VON)任务要求智能体在给定场景中定位特定物体。要成功完成 VON 任务,必须满足两个基本条件:1) 用户必须知道目标物体的名称;2) 用户指定的物体必须实际存在于场景中。为满足这些条件,模拟器可将预定义物体名称与位置纳入场景的元数据中。然而在真实场景中,往往难以保证这些条件始终成立。处于陌生环境的人可能不知道场景中有哪些物体,也可能误指定实际不存在的物体。尽管如此,人类仍可能对某物体有需求,而该需求可由场景中其他物体以等价方式满足。因此,我们提出需求驱动导航(DDN),以用户需求作为任务指令,引导智能体寻找满足指定需求的物体。DDN 旨在通过关注满足用户需求,而非仅依赖预定义物体类别或名称,来放宽 VON 的严苛条件。我们提出一种方法,首先通过从大语言模型中提取常识来获取物体的文本属性特征,随后使用对比语言-图像预训练(CLIP)将这些文本属性特征与视觉属性特征对齐。通过将视觉属性特征作为先验知识,我们增强了导航过程。在 AI2Thor 结合 ProcThor 数据集上的实验表明,视觉属性特征提升了智能体的导航性能,并优于 VON 中常用的基线方法。

关键词

引用

@article{arxiv.2309.08138,
  title  = {Find What You Want: Learning Demand-conditioned Object Attribute Space for Demand-driven Navigation},
  author = {Hongcheng Wang and Andy Guan Hong Chen and Xiaoqi Li and Mingdong Wu and Hao Dong},
  journal= {arXiv preprint arXiv:2309.08138},
  year   = {2023}
}

备注

NeurIPS 2023; Project page:https://sites.google.com/view/demand-driven-navigation; Code: https://github.com/whcpumpkin/Demand-driven-navigation