基于动态模块扩展与适应的终身序列生成
计算与语言
2023-11-23 v4 人工智能
摘要
终身序列生成(LSG)是持续学习中的一个问题，旨在对生成任务序列持续训练模型，以学习不断出现的新生成模式，同时避免遗忘先前的知识。现有的LSG方法主要关注保持旧知识，而很少关注跨任务的知识迁移。相比之下，人类可以通过利用从相似任务中先前获得的知识来更好地学习新任务。受人类学习范式启发，我们提出动态模块扩展与适应(DMEA)，使模型能够根据任务相关性动态确定获取新知识的架构，并选择最相似的先前任务以促进对新任务的适应。此外，由于学习过程容易偏向当前任务，可能导致对已学知识更严重的遗忘，我们提出动态梯度缩放以平衡当前任务与重放任务的学习。通过大量实验，我们证明DMEA在不同LSG设定下均能持续优于现有方法。
引用
@article{arxiv.2310.09886,
title = {Lifelong Sequence Generation with Dynamic Module Expansion and Adaptation},
author = {Chengwei Qin and Chen Chen and Shafiq Joty},
journal= {arXiv preprint arXiv:2310.09886},
year = {2023}
}