中文

内在动机强化学习:简要介绍

机器学习 2022-06-03 v2

摘要

强化学习(RL)是机器学习的三种基本范式之一。它在围棋和星际争霸等许多复杂任务中展现出令人印象深刻的性能,并日益涉及智能制造与自动驾驶。然而,RL 始终受困于探索-利用困境。本文中,我们研究改进 RL 中探索的问题并介绍内在动机 RL。与经典探索策略鲜明对比,内在动机 RL 利用内在学习动机提供可持续的探索激励。我们仔细分类了现有内在奖励方法并分析了其实用缺陷。此外,我们通过 R\'enyi 状态熵最大化提出了一种新的内在奖励方法,其克服了先前方法的缺陷并提供了强大的探索激励。最后,大量仿真表明所提模块以更高效率与鲁棒性取得了优越性能。

关键词

引用

@article{arxiv.2203.02298,
  title  = {Intrinsically-Motivated Reinforcement Learning: A Brief Introduction},
  author = {Mingqi Yuan},
  journal= {arXiv preprint arXiv:2203.02298},
  year   = {2022}
}

备注

40 pages, 25 figures