基于强化学习的采摘:不稳定条件下的鲁棒动态抓取
机器人学
2023-06-29 v2
摘要
抓取被不稳定或非刚性材料包围的小物体在手术、采摘、建筑、灾害恢复和辅助进食等应用中起着关键作用。当在存在传感器噪声和感知误差的情况下需要精细操作时,该任务尤其困难;误差不可避免地引发动态运动,而精确建模动态运动具有挑战性。为规避为接触和动力学建立精确模型的困难,像强化学习(RL)这样的数据驱动方法可通过试错优化任务性能,减少对接触和动力学精确模型的需求。然而,将 RL 方法应用于真实机器人一直受到诸如极高的样本复杂度或为在硬件上提供重置所需的高训练基础设施成本等因素的阻碍。本工作提出 CherryBot,一个使用筷子进行精细操作的 RL 系统,在某些动态抓取任务上超越人类反应速度。通过集成不精确的模拟器、次优演示和外部状态估计,我们研究如何使真实世界机器人学习系统具有样本效率与泛化能力,同时减少所需的监督人力。我们的系统通过 30 分钟的真实世界交互展现出持续改进:通过反应性重试,在使用筷子抓取空中摆动小物体的高难度任务上实现了近 100% 的成功率。我们展示了 CherryBot 对不同物体形状和动力学(例如风和人为扰动等外部干扰)的反应性、鲁棒性和泛化能力。视频见 https://goodcherrybot.github.io/。
引用
@article{arxiv.2303.05508,
title = {Cherry-Picking with Reinforcement Learning : Robust Dynamic Grasping in Unstable Conditions},
author = {Yunchu Zhang and Liyiming Ke and Abhay Deshpande and Abhishek Gupta and Siddhartha Srinivasa},
journal= {arXiv preprint arXiv:2303.05508},
year = {2023}
}