基于外部记忆的多模态动力学持续学习
机器学习
2024-05-10 v4 机器学习
摘要
我们研究当新的行为模式顺序出现时，将模型拟合到动态环境中的问题。学习模型能够感知新模式的到来，但无法获取各个训练序列的真实模式。现有的持续学习方法无法处理这种设定，因为参数迁移会遭受灾难性干扰，而情景记忆设计则需要知晓序列的真实模式。我们设计了一种新颖的持续学习方法，通过在神经情景记忆中维护所遇序列模式的“描述子”来克服上述两个局限。我们对记忆的注意力权重施加狄利克雷过程先验，以促进模式描述子的高效存储。该方法通过检索过去任务中与当前序列模式相似的描述子，并将该描述子作为控制输入馈入其转移核，从而跨任务迁移知识来实现持续学习。我们观察到，本方法的持续学习性能优于主流的参数迁移方法。
引用
@article{arxiv.2203.00936,
title = {Continual Learning of Multi-modal Dynamics with External Memory},
author = {Abdullah Akgül and Gozde Unal and Melih Kandemir},
journal= {arXiv preprint arXiv:2203.00936},
year = {2024}
}