强化学习中内在动机的信息论视角:一项综述
机器学习
2023-02-22 v1
摘要
强化学习(RL)研究领域非常活跃,新成果层出不穷,尤其是考虑到深度RL(DRL)这一新兴领域。然而,仍有许多科学和技术挑战有待解决,其中我们可以提及动作抽象的能力,以及在稀疏奖励设定下探索环境的困难,这些可通过内在动机(IM)来解决。我们提议通过一种基于信息论的新分类法来综述这些研究工作:我们从计算角度重新审视惊奇、新颖性和技能学习的概念。这使我们能够识别方法的优缺点并揭示当前的研究前景。我们的分析表明,新颖性和惊奇可以辅助构建可迁移技能的层次结构,从而进一步抽象环境并使探索过程更加稳健。
引用
@article{arxiv.2209.08890,
title = {An information-theoretic perspective on intrinsic motivation in reinforcement learning: a survey},
author = {Arthur Aubret and Laetitia Matignon and Salima Hassas},
journal= {arXiv preprint arXiv:2209.08890},
year = {2023}
}