中文

ARLO:一种自动化强化学习框架

机器学习 2022-05-24 v1

摘要

自动化强化学习(AutoRL)是一个相对较新且日益受到关注的研究领域。AutoRL 的目标是通过缓解强化学习(RL)的一些主要挑战(包括数据收集、算法选择和超参数调优)来便利更广泛受众使用 RL 技术。在本工作中,我们提出一个通用且灵活的框架,即 ARLO:自动化强化学习优化器(Automated Reinforcement Learning Optimizer),用于构建 AutoRL 的自动化流水线。基于此,我们提出了一个离线 RL 和一个在线 RL 的流水线,讨论了组件、交互,并强调了两种设置之间的差异。此外,我们提供了此类流水线的 Python 实现,作为开源库发布。我们的实现已在说明性 LQG 域和经典 MuJoCo 环境中测试,显示出仅需有限人工干预即可达到有竞争力的性能。我们还在真实水坝环境中展示了完整流水线,自动执行特征选择和模型生成任务。

关键词

引用

@article{arxiv.2205.10416,
  title  = {ARLO: A Framework for Automated Reinforcement Learning},
  author = {Marco Mussi and Davide Lombarda and Alberto Maria Metelli and Francesco Trovò and Marcello Restelli},
  journal= {arXiv preprint arXiv:2205.10416},
  year   = {2022}
}