MICo:基于采样的马尔可夫决策过程状态相似性以改进表征
机器学习
2022-01-25 v4 人工智能
摘要
我们提出了一种定义在马尔可夫决策过程状态空间上的新行为距离,并展示了将该距离用作塑造深度强化学习智能体所学表征的有效手段。现有的状态相似性概念通常由于高计算成本和缺乏基于样本的算法而难以大规模学习,而我们新提出的距离解决了这两个问题。除了提供详尽的理论分析外,我们给出的经验证据表明,与值函数一同学习该距离能够产生结构化且具信息量的表征,包括在 Arcade Learning Environment 基准上的强劲结果。
引用
@article{arxiv.2106.08229,
title = {MICo: Improved representations via sampling-based state similarity for Markov decision processes},
author = {Pablo Samuel Castro and Tyler Kastner and Prakash Panangaden and Mark Rowland},
journal= {arXiv preprint arXiv:2106.08229},
year = {2022}
}
备注
Published at NeurIPS 2021