基于深度强化学习的变插座位置插入实用方法
机器人学
2018-10-09 v2
摘要
插入是一项具有挑战性的触觉与视觉控制问题,对制造具有重要实用价值。基于模型的机器人学界的现有方法在任务几何已知时非常有效,但实现复杂繁琐,且必须由合格工程师针对每个单独问题定制。在学习界,插入研究有悠久历史,但现有方法通常要么样本效率过低而无法在真实机器人上运行,要么假设可获取高层对象特征(如插座位姿)。在本文中,我们展示对现成 Deep-RL 算法(DDPG)相对微小的修改,结合少量人类示范,可使机器人快速学会高效且鲁棒地解决这些任务。我们的方法无需建模或仿真,无需参数化搜索或对齐行为,除原始图像外无需视觉系统,也无需奖励塑形。我们在一个窄间隙销插入任务和一个可变形夹子插入任务上评估了我们的方法,两者均包含插座位置的变化。我们的结果表明,这些任务可在真实机器人上以少于 10 分钟的交互时间可靠解决,且所得策略对插座位置与朝向的变化具有鲁棒性。
引用
@article{arxiv.1810.01531,
title = {A Practical Approach to Insertion with Variable Socket Position Using Deep Reinforcement Learning},
author = {Mel Vecerik and Oleg Sushkov and David Barker and Thomas Rothörl and Todd Hester and Jon Scholz},
journal= {arXiv preprint arXiv:1810.01531},
year = {2018}
}