中文

利用面向目标的深度Q网络学习视觉可供性以借助环境固定物抓取物体

机器人学 2021-04-06 v2 计算机视觉与模式识别

摘要

本文介绍了一项具有挑战性的物体抓取任务,并提出了一种自监督学习方法。该任务的目标是抓取一个单平行夹爪无法抓取、只能借助环境固定物(如墙壁、家具、重物)才能抓取的物体。该滑向墙壁抓取任务假设除目标物体的部分观测外无任何先验知识。因此,机器人应在可能包含目标物体、环境固定物及任何其他干扰物体的场景观测下学习有效策略。我们将该问题表述为视觉可供性学习,并提出了面向目标的深度Q网络(TO-DQN)以高效学习视觉可供性图(即Q图)来引导机器人动作。由于训练需要机器人与固定物进行探索并发生碰撞,TO-DQN首先在安全模拟的机器人机械臂上训练,然后应用于真实机器人。我们通过实验表明,TO-DQN能够在仿真中不同环境设置下学会解决该任务,并在训练效率与鲁棒性方面优于标准深度Q网络(DQN)及其一种变体。仿真与真实机器人实验中的测试性能表明,由TO-DQN训练的策略达到了与人类相当的表现。

关键词

引用

@article{arxiv.1910.03781,
  title  = {Learning Visual Affordances with Target-Orientated Deep Q-Network to Grasp Objects by Harnessing Environmental Fixtures},
  author = {Hengyue Liang and Xibai Lou and Yang Yang and Changhyun Choi},
  journal= {arXiv preprint arXiv:1910.03781},
  year   = {2021}
}

备注

To appear on ICRA21 Xi'an