GLAM：基于 Mamba 世界模型的全局-局部变异感知
机器学习
2025-01-22 v1
摘要
模仿真实交互轨迹在世界模型推理中已显示可提高模型基学习算法的样本效率。许多方法直接使用已知状态序列进行推理。然而，这种方法无法通过捕捉状态之间的细微变异来提高推理质量。类似于人类如何从这种变异中推断事件发展趋势，本 work 引入了 Global-Local variation Awareness Mamba-based world model (GLAM)，通过感知和预测状态之间的变异来提高推理质量。GLAM 由两个 Mamba 基于的平行推理模块组成：GMamba 和 LMamba，分别专注于在推理过程中从全局和局部视角感知变异。GMamba 专注于识别状态序列中变异模式，并利用这些模式来增强对未来状态变异的预测。LMamba 强调推理关于未知信息的内容，如奖励、终止信号和视觉表示，通过感知相邻状态之间的变异来实现。通过整合两个模块的优势，GLAM 能考虑环境变化中更高价值的变异，为代理人提供更高效的想象训练。我们在 Atari 100k benchmark 上演示了该方法在归一化人类得分方面优于现有方法。
引用
@article{arxiv.2501.11949,
title = {GLAM: Global-Local Variation Awareness in Mamba-based World Model},
author = {Qian He and Wenqi Liang and Chunhui Hao and Gan Sun and Jiandong Tian},
journal= {arXiv preprint arXiv:2501.11949},
year = {2025}
}