弹性多梯度下降用于并行持续学习

持续学习的目标是从新数据流中持续学习并完成相应任务。以往研究的持续学习假设数据按顺序从头到尾给出不同任务，因此属于串行持续学习。本文研究动态多任务场景下的新型并行持续学习范式，其中在不同时间点遇到多样化的任务集。并行持续学习由于训练数量未指定且学习进度不同的任务而带来挑战，导致难以保证对所有遇到的任务进行有效的模型更新。在我们之前的会议工作中，我们专注于测量和减少多目标优化问题中梯度之间的差异，然而，这可能在每次模型更新中仍然包含负迁移。为了解决这个问题，在动态多目标优化问题中，我们引入特定于任务的弹性因子来调整朝向帕累托前沿的下降方向。所提出的方法称为弹性多梯度下降，确保每次更新遵循适当的帕累托下降方向，最小化对先前学习任务的任何负面影响。为了平衡新旧任务之间的训练，我们还提出了一种由使用EMGD计算的梯度引导的记忆编辑机制。这个编辑过程更新存储的数据点，减少来自先前任务的帕累托下降方向的干扰。在公共数据集上的实验验证了我们的EMGD在PCL设置中的有效性。