Dr. Strategy:具有战略梦境的基于模型的通用智能体
机器学习
2024-06-05 v2
摘要
基于模型的强化学习 (MBRL) 一直是提高样本效率以及构建通用智能体的主要方法。然而,在增强梦境策略本身方面 efforts 不多。因此,一个问题是智能体是否能够以及如何以更结构化和战略性的方式“更好地做梦”。在本文中,受认知科学观察的启发,该观察表明人类在规划中使用空间分治策略,我们提出了一种新的 MBRL 智能体,称为 Dr. Strategy,它配备了一种新颖的梦境策略。所提出的智能体在梦境中实现了一种类似分治的策略。这是通过学习一组潜在地标,然后利用这些地标学习地标条件化的高速公路策略来实现的。借助高速公路策略,智能体可以首先在梦境中学习移动到地标,然后从那里以更专注的方式处理探索和成就任务。在实验中,我们表明所提出的模型在各种视觉复杂和部分可观测的导航任务中优于先前的基于像素的 MBRL 方法。
引用
@article{arxiv.2402.18866,
title = {Dr. Strategy: Model-Based Generalist Agents with Strategic Dreaming},
author = {Hany Hamed and Subin Kim and Dongyeong Kim and Jaesik Yoon and Sungjin Ahn},
journal= {arXiv preprint arXiv:2402.18866},
year = {2024}
}
备注
First two authors contributed equally