中文

GRI:通用强化模仿及其在基于视觉的自动驾驶中的应用

机器人学 2022-05-19 v2 计算机视觉与模式识别

摘要

深度强化学习(DRL)已被证明对自动驾驶和机器人等若干复杂决策应用有效。然而,DRL 因其高样本复杂度和缺乏稳定性而声名受限。先验知识(如专家演示)通常可得,但难以利用以缓解这些问题。本文提出通用强化模仿(GRI),一种结合探索与专家数据优势、且易于在任何离策略 RL 算法上实现的新方法。我们做一个简化假设:专家演示可视为底层策略获得恒定高奖励的完美数据。基于此假设,GRI 引入离线演示智能体的概念。该智能体发送专家数据,这些数据与来自在线 RL 探索智能体的经验被并发且不可区分地处理。我们展示了该方法在城市环境中基于视觉的自动驾驶上的重大改进。我们进一步在 Mujoco 连续控制任务上以不同离策略 RL 算法验证了 GRI 方法。我们的方法在 CARLA Leaderboard 上排名第一,并以 17% 的优势超越先前最优的 World on Rails。

关键词

引用

@article{arxiv.2111.08575,
  title  = {GRI: General Reinforced Imitation and its Application to Vision-Based Autonomous Driving},
  author = {Raphael Chekroun and Marin Toromanoff and Sascha Hornauer and Fabien Moutarde},
  journal= {arXiv preprint arXiv:2111.08575},
  year   = {2022}
}