面向无回放增量学习的高效扩展与基于梯度的任务推断

本文提出了一种简单但高效的基于扩展的持续学习模型。近期基于特征变换、掩码和因子分解的方法虽然高效，但它们仅在全局或共享参数上扩展模型。因此，这些方法未能充分利用先前学习的信息，因为相同的任务特定参数会遗忘早期知识。从而，这些方法表现出有限的迁移学习能力。此外，这些模型大多对所有任务具有恒定的参数增长，而不考虑任务复杂性。我们的工作提出了一种简单的基于滤波器和通道扩展的方法，该方法在先前任务参数上扩展模型，而不仅仅在全局参数上扩展。因此，它无遗忘地充分利用了所有先前学习的信息，从而实现了更好的知识迁移。我们提出的模型中的增长率是任务复杂性的函数；因此，对于简单任务，模型具有较小的参数增长，而对于复杂任务，模型需要更多参数来适应当前任务。近期基于扩展的模型在任务增量学习 (TIL) 中显示出有希望的结果。然而，对于类增量学习 (CIL)，任务 ID 的预测是一个关键挑战；因此，随着任务数量的增加，其结果迅速下降。在这项工作中，我们提出了一种鲁棒的任务预测方法，该方法利用熵加权数据增强和使用伪标签的模型梯度。我们在 TIL、CIL 和生成式持续学习设置中的各种数据集和架构上评估了我们的模型。所提出的方法在所有这些设置中均展示了最先进的结果。我们广泛的消融研究证明了所提出组件的有效性。