中文

safe-control-gym:面向机器人安全学习型控制与强化学习的统一基准套件

机器人学 2022-07-27 v4 机器学习 系统与控制 系统与控制

摘要

近年来,强化学习与基于学习的控制——以及对其安全性的研究(这对于在真实世界机器人中部署至关重要)——都获得了显著关注。然而,为了充分衡量新进展的进度与适用性,我们需要能够公平比较控制界与强化学习界所提出方法的工具。在此,我们提出一个名为 safe-control-gym 的新型开源基准套件,支持基于模型与基于数据的控制技术。我们提供了三种动态系统——cart-pole、一维与二维 quadrotor——以及两种控制任务——稳定与轨迹跟踪——的实现。我们提议扩展 OpenAI 的 Gym API——强化学习研究中事实上的标准——以具备 (i) 指定(与查询)符号动力学与 (ii) 约束的能力,以及 (iii)(可重复地)在控制输入、状态测量和惯性属性中注入模拟扰动。为展示我们的提案并试图拉近研究社群,我们展示了如何使用 safe-control-gym 来定量比较传统控制、基于学习的控制与强化学习领域中多种方法的控制性能、数据效率与安全性。

关键词

引用

@article{arxiv.2109.06325,
  title  = {safe-control-gym: a Unified Benchmark Suite for Safe Learning-based Control and Reinforcement Learning in Robotics},
  author = {Zhaocong Yuan and Adam W. Hall and Siqi Zhou and Lukas Brunke and Melissa Greeff and Jacopo Panerati and Angela P. Schoellig},
  journal= {arXiv preprint arXiv:2109.06325},
  year   = {2022}
}

备注

8 pages, 8 figures