面向冲突任务的 Pareto 最小遗忘持续学习者 PMF-CL

在文献中，已提出许多持续学习 (CL) 算法来解决 ML 模型中恶性遗忘的问题（即学习新任务会导致对以前学习任务的性能损失）。尽管所有 CL 方法都使用某种形式的记忆来保留有关过去任务的信息，但对于需要存储什么信息才能最小化恶性遗忘的理解仍然含糊。最近人们认识到，在存在所有任务都有一个共同全局最小化器的强假设下，可以完全避免恶性遗忘。然而，实际中，任务很少具有共同的全局最小化器，一定程度的遗忘是不可避免的。本文提出一种针对冲突任务的持续学习的基础框架，使用多任务学习 (MTL) 视角进行原则性和系统性 CL。该方法基于寻找 Pareto 最优解，即按定义最小化遗忘前导任务的解。我们推导了线性和基函数回归以及具有二次上界的一般损失函数（例如逻辑回归）的 Pareto 最小遗忘 CL 算法。对于二次问题，PMF-CL 使用记忆效率的迭代更新，静态记忆存储量为 $\mathcal{O}(d^2)$ 用于参数为 $d$ 的模型。