MaIL：利用 Mamba 改进模仿学习
机器学习
2024-11-20 v2 机器人学
摘要
本工作提出了 Mamba 模仿学习（MaIL），一种新的模仿学习（IL）架构，旨在替代当前最先进（SoTA）基于 Transformer 的策略。MaIL 利用 Mamba，这是一种设计为 selectively focus on key features of data 的状态空间模型。虽然 Transformer 在数据丰富的环境中因其稠密注意力机制而表现出色，但在小数据集上容易过拟合或表现次佳。相比之下，Mamba 的架构通过聚焦于关键特征并降低模型复杂度来增强表示学习效率，从而缓解过拟合并提升在有限数据下的泛化能力。广泛的评估表明，MaIL 在 LIBERO 数据集上的所有任务中均优于 Transformer，数据充足时性能与之相当。此外，MaIL 的有效性通过三个真实机器人实验得到验证。我们的代码已公开于 https://github.com/ALRhub/MaIL。
引用
@article{arxiv.2406.08234,
title = {MaIL: Improving Imitation Learning with Mamba},
author = {Xiaogang Jia and Qian Wang and Atalay Donat and Bowen Xing and Ge Li and Hongyi Zhou and Onur Celik and Denis Blessing and Rudolf Lioutikov and Gerhard Neumann},
journal= {arXiv preprint arXiv:2406.08234},
year = {2024}
}