中文

深度强化学习中面向机器人学的仿真到真实迁移:综述

机器学习 2021-07-09 v2 机器人学

摘要

深度强化学习近来在机器人学领域的多个方向上取得了巨大成功。由于收集真实世界数据存在局限性,即采样效率低且收集成本高,仿真环境被用于训练不同智能体。这不仅有助于提供潜在无限的数据源,也缓解了真实机器人的安全问题。然而,仿真与真实世界之间的差距会在模型迁移至真实机器人后降低策略性能。因此,大量研究工作正致力于缩小这一仿真到真实的差距并实现更高效的策略迁移。近年来出现了适用于不同领域的多种方法,但据我们所知,缺乏一份总结并梳理这些方法背景的综合性综述。在本综述中,我们涵盖了深度强化学习中仿真到真实迁移的基础背景,并概述了当前使用的主要方法:域随机化、域适应、模仿学习、元学习和知识蒸馏。我们对一些最相关的近期工作进行了分类,并勾勒了主要应用场景。最后,我们讨论了不同方法的主要机遇与挑战,并指出了最有前景的方向。

关键词

引用

@article{arxiv.2009.13303,
  title  = {Sim-to-Real Transfer in Deep Reinforcement Learning for Robotics: a Survey},
  author = {Wenshuai Zhao and Jorge Peña Queralta and Tomi Westerlund},
  journal= {arXiv preprint arXiv:2009.13303},
  year   = {2021}
}

备注

Accepted to the 2020 IEEE Symposium Series on Computational Intelligence