复合视觉运动任务的单次分层模仿学习

我们考虑在真实机器人上从一段人类执行任务的视频中学习基于视觉的多阶段任务的问题，同时利用其他物体上子任务的演示数据。该问题带来若干主要挑战。无遥操作的视频演示对人类易于提供，但不提供任何直接监督。从原始像素学习策略可实现完全通用性，但需要学习具有众多参数的大型函数逼近器。最后，若将复合任务视为整体技能，可能需要不切实际的大量演示数据。为应对这些挑战，我们提出一种方法，学习如何从视频演示中学习基本行为，以及如何通过“观看”人类演示者动态组合这些行为以执行多阶段任务。我们在模拟 Sawyer 机器人与真实 PR2 机器人上的结果展示了我们的方法，用于学习具有新颖物体与原始像素输入的各种订单履行与厨房服务任务。