中文

ModelicaGym:将强化学习应用于 Modelica 模型

软件工程 2019-10-29 v1 机器学习

摘要

本文介绍为在 Modelica 模型中利用强化学习(RL)解决优化与控制任务而开发的 ModelicaGym 工具箱。所开发的工具可通过 Functional Mock-up Interface (FMI) 将模型连接到 OpenAI Gym 工具包,从而利用 Modelica 基于方程的建模与协同仿真以及 RL 算法作为相应工具的功能。因此,ModelicaGym 促进了 RL 算法的快速便捷开发及其在求解 Modelica 动态模型最优控制问题时的比较。文中详细讨论了 ModelicaGym 工具箱类的继承结构与已实现的方法。该工具箱功能在 Cart-Pole 平衡问题上进行了验证。这包括物理系统模型描述及其使用工具箱的集成、关于模型参数(即力大小、小车-杆质量比、奖励比和仿真时间步)对 Q-learning 算法学习过程的选择与影响的实验,并附仿真结果讨论。

关键词

引用

@article{arxiv.1909.08604,
  title  = {ModelicaGym: Applying Reinforcement Learning to Modelica Models},
  author = {Oleh Lukianykhin and Tetiana Bogodorova},
  journal= {arXiv preprint arXiv:1909.08604},
  year   = {2019}
}

备注

accepted at EOOLT'19