面向终身机器人学习的动态渐进参数高效专家库
机器学习
2026-05-29 v3 机器人学
摘要
通用智能体必须在其一生中持续学习和适应，实现高效的前向迁移，同时最小化灾难性遗忘。在主导的预训练后微调范式下，先前的工作探索了针对单任务适应的参数高效微调，有效地通过少量参数来驾驭冻结的预训练模型。然而，在终身学习的背景下，这些方法依赖于不切实际的测试时任务标识假设，并限制了孤立适配器之间的知识共享。为解决这些限制，我们提出了用于终身机器人学习的动态渐进参数高效专家库（DMPEL）。DMPEL 渐进式地构建低秩专家库，并采用轻量级路由器动态组合专家以构建端到端的策略，从而实现灵活且高效的终身前向迁移。此外，利用微调参数的模块化结构，我们引入了专家系数回放，该技术指导路由器准确检索先前遇到任务的冻结专家。该技术在存储和计算效率上显著优于对整个策略进行经验回放。对 LIBERO 终身机器人学习基准进行大量实验表明，我们的框架在持续适应期间的成功率方面超过了最先进的终身学习方法，同时使用最小的可训练参数和存储空间。
引用
@article{arxiv.2506.05985,
title = {Dynamic Mixture of Progressive Parameter-Efficient Expert Library for Lifelong Robot Learning},
author = {Yuheng Lei and Sitong Mao and Shunbo Zhou and Hongyuan Zhang and Xuelong Li and Ping Luo},
journal= {arXiv preprint arXiv:2506.05985},
year = {2026}
}
备注
Accepted to Transactions on Machine Learning Research (TMLR) at https://openreview.net/forum?id=MHVBrjS8cG . Code is available at https://github.com/HarryLui98/DMPEL