自然持续学习：成功是一段旅程，而非（仅仅）一个终点

已知生物智能体在其一生中学习许多不同任务，并能够以很少或没有性能损失地重访先前的任务与行为。相反，人工智能体易于发生“灾难性遗忘”，即随着新任务的获取，先前任务的性能迅速恶化。这一缺陷近来通过使用鼓励参数保持接近先前任务所用参数的方法得到解决。这可以通过（i）使用特定的参数正则化器在参数空间中勾勒合适的目的地，或（ii）通过将梯度投影到不与先前任务干扰的子空间来引导优化旅程。然而，这些方法在前馈与循环神经网络中常表现出欠佳的性能，而循环网络对研究支持生物持续学习的神经动力学颇具意义。本工作中，我们提出自然持续学习（NCL），一种统一权重正则化与投影梯度下降的新方法。NCL 使用贝叶斯权重正则化以在收敛时鼓励所有任务的良好性能，并将其与利用先验精度的梯度投影结合，从而在优化过程中防止灾难性遗忘。当应用于前馈与循环网络中的持续学习问题时，我们的方法优于标准权重正则化技术与基于投影的方法。最后，训练得到的网络演化出任务特异性动力学，其随着新任务的学习被强烈保留，类似于生物回路中的实验发现。