OIL:观察式模仿学习
计算机视觉与模式识别
2019-05-24 v3 机器学习
机器人学
摘要
近期工作探索了通过模仿教师并学习端到端策略实现自主导航的问题,该策略直接从原始图像预测控制。然而,这些方法往往对教师错误敏感,且难以扩展到其他环境或载具。为此,我们提出观察式模仿学习(OIL),一种新颖的模仿学习变体,支持在线训练并通过观察多个不完美教师自动选择最优行为。我们将所提方法应用于自主驾驶与无人机竞速等挑战性问题。对两项任务,我们利用Sim4CV模拟器,其能生成大量合成训练数据并允许在线学习与评估。我们训练一个感知网络从原始图像数据预测路径点,并使用OIL训练另一网络从这些路径点预测控制。大量实验表明,我们所训练的网络在模拟中优于其教师、常规模仿学习(IL)与强化学习(RL)基线甚至人类。项目网站位于 https://sites.google.com/kaust.edu.sa/oil/ ,视频位于 https://youtu.be/_rhq8a0qgeg
引用
@article{arxiv.1803.01129,
title = {OIL: Observational Imitation Learning},
author = {Guohao Li and Matthias Müller and Vincent Casser and Neil Smith and Dominik L. Michels and Bernard Ghanem},
journal= {arXiv preprint arXiv:1803.01129},
year = {2019}
}
备注
Accepted at RSS'19. First two authors contributed equally