克服持续学习中的稳定性鸿沟

预训练的深度神经网络（DNN）正被工业界广泛部署用于业务决策和服务用户；然而，一个主要问题是模型衰减，即 DNN 的预测随时间变得更具误差，导致收入损失或用户不满。为缓解模型衰减，DNN 使用旧数据和新数据从头重新训练。这在计算上代价高昂，因此仅在性能显著下降时才进行重新训练。在此，我们研究持续学习（CL）如何潜在地克服大型预训练 DNN 中的模型衰减，并大幅降低保持 DNN 最新的计算成本。我们确定了“稳定性鸿沟”作为我们设定中的主要障碍。稳定性鸿沟指的是一种现象：在学习新数据时，在 CL 缓解方法最终补偿该下降之前，过去任务的性能出现大幅跌落。我们检验了两个假设以调查影响稳定性鸿沟的因素，并确定了极大缩小该鸿沟的方法。在针对简单和困难 CL 分布（例如类增量学习）的大规模实验中，我们证明了我们的方法缩小了稳定性鸿沟并极大提升了计算效率。我们的工作使 CL 与生产环境的目标相一致，其中许多应用都需要 CL。