中文

M2Distill:面向终身模仿学习的多模态蒸馏

机器学习 2025-03-10 v3 人工智能 计算机视觉与模式识别 机器人学

摘要

由于增量学习步骤中出现的分布偏移,操作任务的终身模仿学习面临重大挑战。现有方法通常侧重于无监督技能发现以构建不断增长的技能库,或从多个策略中进行蒸馏,这可能导致可扩展性问题,因为多样化的操作任务被持续引入,并且可能无法确保整个学习过程中潜在空间的一致性,从而导致对先前学习技能的灾难性遗忘。在本文中,我们介绍了M2Distill,一种基于多模态蒸馏的终身模仿学习方法,其重点是在整个学习过程中保持视觉、语言和动作分布上的潜在空间一致性。通过调节从先前步骤到当前步骤的不同模态潜在表示的偏移,并减少连续学习步骤之间高斯混合模型(GMM)策略的差异,我们确保学习到的策略能够保留执行先前学习任务的能力,同时无缝集成新技能。在LIBERO终身模仿学习基准套件(包括LIBERO-OBJECT、LIBERO-GOAL和LIBERO-SPATIAL)上的广泛评估表明,我们的方法在所有评估指标上均持续优于先前的最先进方法。

关键词

引用

@article{arxiv.2410.00064,
  title  = {M2Distill: Multi-Modal Distillation for Lifelong Imitation Learning},
  author = {Kaushik Roy and Akila Dissanayake and Brendan Tidd and Peyman Moghadam},
  journal= {arXiv preprint arXiv:2410.00064},
  year   = {2025}
}

备注

IEEE ICRA 2025