ModelicaGym:将强化学习应用于 Modelica 模型
软件工程
2019-10-29 v1 机器学习
摘要
本文介绍为在 Modelica 模型中利用强化学习(RL)解决优化与控制任务而开发的 ModelicaGym 工具箱。所开发的工具可通过 Functional Mock-up Interface (FMI) 将模型连接到 OpenAI Gym 工具包,从而利用 Modelica 基于方程的建模与协同仿真以及 RL 算法作为相应工具的功能。因此,ModelicaGym 促进了 RL 算法的快速便捷开发及其在求解 Modelica 动态模型最优控制问题时的比较。文中详细讨论了 ModelicaGym 工具箱类的继承结构与已实现的方法。该工具箱功能在 Cart-Pole 平衡问题上进行了验证。这包括物理系统模型描述及其使用工具箱的集成、关于模型参数(即力大小、小车-杆质量比、奖励比和仿真时间步)对 Q-learning 算法学习过程的选择与影响的实验,并附仿真结果讨论。
引用
@article{arxiv.1909.08604,
title = {ModelicaGym: Applying Reinforcement Learning to Modelica Models},
author = {Oleh Lukianykhin and Tetiana Bogodorova},
journal= {arXiv preprint arXiv:1909.08604},
year = {2019}
}
备注
accepted at EOOLT'19