基于高斯过程的持续学习函数正则化

我们提出一种持续学习 (Continual Learning, CL) 框架，其基于深度神经网络函数空间上的贝叶斯推断而非参数空间。该方法称为持续学习的函数正则化，通过构建并记忆关于底层任务特定函数的近似后验信念来避免遗忘先前任务。为此，我们依赖一个高斯过程，其将神经网络最后一层的权重视为随机且高斯分布而得到。随后，训练算法依次遭遇各任务，并利用诱导点稀疏高斯过程方法构建关于任务特定函数的后验信念。在每一步中，首先学习一个新任务，然后构建一份摘要，包含 (i) 诱导输入——选出的任务输入的固定规模子集，以最优表示任务——以及 (ii) 这些输入处函数值的后验分布。该摘要随后通过 Kullback-Leibler 正则化项正则化未来任务的学习。因此，我们的方法以原则性方式将聚焦于（伪）重演的方法与源自序列贝叶斯推断视角的方法统一起来，在公认基准上取得了强劲结果。