中文

MBE-ARI:用于动物-机器人互动中双向参与的多模态数据集

计算机视觉与模式识别 2025-04-14 v1 机器人学

摘要

动物-机器人互动(ARI)仍是机器人学中未被充分探索的挑战,因为机器人难以解释动物如身体语言、运动和声响等复杂的多模态通信线索。与人类-机器人互动不同,后者受益于已建立的数据集和框架,而动物-机器人互动缺乏促进有意义双向沟通的基础资源。为弥补这一差距,我们提出了MBE-ARI(Multimodal Bidirectional Engagement in Animal-Robot Interaction),一个捕获Legged robot与牛只互动细节的新型多模态数据集。数据集包括来自多个视角的同步RGB-D流,标注了互动阶段中的身体姿态和活动标签,为ARI研究提供了前所未有的细致程度。此外,我们引入了一个专为四足动物设计的全身姿态估计模型,能够跟踪39个关键点,平均精度(mAP)达92.7%,超越了现有动物姿态估计基准。MBE-ARI数据集和我们的姿态估计框架为推进动物-机器人互动研究提供了稳固的基础,为开发所需感知、推理和互动框架以实现机器人与动物之间有效协作提供了必需工具。该数据集和资源已公开发布于https://github.com/RISELabPurdue/MBE-ARI/,欢迎进一步探索和开发。

关键词

引用

@article{arxiv.2504.08646,
  title  = {MBE-ARI: A Multimodal Dataset Mapping Bi-directional Engagement in Animal-Robot Interaction},
  author = {Ian Noronha and Advait Prasad Jawaji and Juan Camilo Soto and Jiajun An and Yan Gu and Upinder Kaur},
  journal= {arXiv preprint arXiv:2504.08646},
  year   = {2025}
}

备注

Accepted to ICRA 2025