决策 Mamba 架构
机器学习
2024-10-18 v2 人工智能
摘要
最近的imitation learning进展主要得益于序列模型的集成，这些模型为有效模仿任务行为提供了结构化的信息流。目前，Decision Transformer (DT) 及随后出现的层次化 Decision Transformer (HDT) 采用了基于 Transformer 的方法来学习任务策略。最近，Mamba架构在 various task domains中超越了Transformer。本文引入两种新方法，决策 Mamba (DM) 和层次化决策 Mamba (HDM)，旨在增强Transformer模型的性能。通过在多样化环境（如OpenAI Gym和D4RL）中进行大量实验，利用不同示范数据集，我们展示了Mamba模型在绝大多数任务中优于其Transformer对手。结果表明，DM在大多数情况下均优于其他方法。代码可在 https://github.com/meowatthemoon/DecisionMamba 查看。
引用
@article{arxiv.2405.07943,
title = {Decision Mamba Architectures},
author = {André Correia and Luís A. Alexandre},
journal= {arXiv preprint arXiv:2405.07943},
year = {2024}
}