基于准牛顿方法的持续学习

灾难性遗忘是神经网络顺序学习任务中的主要挑战。弹性权重Consolidation（EWC）通过引入贝叶斯式正则化损失以保留先前学习任务的知识，但其依赖于拉普拉斯近似，将海森矩阵简化为 Fisher 信息矩阵对角线，假设模型参数不相关。这一过于简化的假设常导致海森矩阵估计不佳，限制了其效能。为克服此限制，我们提出一种名为样本准牛顿方法（CSQN，Continual Learning with Sampled Quasi-Newton）的持续学习方法，利用准牛顿方法计算更精确的海森矩阵近似。CSQN 捕捉参数之间的相互作用，而无需针对特定架构进行修改，因而可适用于 diverse tasks 与 architectures。实验在四个基准测试中表明，CSQN 稳健地超越 EWC 与其他最先进方法，包括重hearsal-based 方法。CSQN 将 EWC 的遗忘降低 50%，平均提升 8%性能。在四个基准测试中，CSQN 三项取得优异成绩，包括最具挑战性的情境，凸显其作为持续学习稳健解决方案的潜力。