元强化学习中的信息论任务选择
机器学习
2021-07-02 v2
摘要
在元强化学习(meta-RL)中,智能体在一组任务上进行训练,以准备并在新的、未见过的但相关的任务中更快学习。训练任务通常是手工设计的,以代表预期测试任务分布,因此全部用于训练。我们表明,给定一组训练任务,如果适当地选择训练任务,学习可以更快且更有效(在测试任务中带来更好的性能)。我们提出了一种基于信息论的任务选择算法,信息论任务选择(ITTS),它优化元强化学习中用于训练的任务集合,而与它们如何生成无关。该算法确定哪些训练任务对测试任务足够相关,且彼此足够不同。我们复现了文献中的不同元强化学习实验,并表明 ITTS 在所有实验中都提高了最终性能。
引用
@article{arxiv.2011.01054,
title = {Information-theoretic Task Selection for Meta-Reinforcement Learning},
author = {Ricardo Luna Gutierrez and Matteo Leonetti},
journal= {arXiv preprint arXiv:2011.01054},
year = {2021}
}
备注
Published at NeurIPS 2020