超越防遗忘：具有向后知识迁移的连续学习
机器学习
2022-11-03 v1 人工智能
摘要
通过连续地学习一系列任务，连续学习（CL）中的智能体可分别利用向前知识迁移和向后知识迁移来改善新任务和“旧”任务的学习性能。然而，大多数现有 CL 方法侧重于通过最小化对已学旧任务模型的修改来解决神经网络中的灾难性遗忘。这不可避免地限制了从新任务到旧任务的向后知识迁移，因为审慎的模型更新有可能也能改善旧任务的学习性能。为应对该问题，我们首先基于向旧任务输入子空间的梯度投影，从理论上分析在何种条件下更新旧任务的已学模型有益于 CL 并导致向后知识迁移。建立在理论分析基础上，我们接下来开发了一种具有向后知识迁移的连续学习方法（CUBER），用于无数据重放的定容量神经网络。特别地，CUBER 首先以逐层方式刻画任务相关性以识别正相关的旧任务，然后在学习新任务时有选择地修改旧任务的已学模型。实验研究表明，CUBER 首次在无数据重放的若干现有 CL 基准上甚至实现了正的向后知识迁移，而相关基线仍遭受灾难性遗忘（负的向后知识迁移）。CUBER 在向后知识迁移上的优越性能也相应地带来了更高的准确率。
引用
@article{arxiv.2211.00789,
title = {Beyond Not-Forgetting: Continual Learning with Backward Knowledge Transfer},
author = {Sen Lin and Li Yang and Deliang Fan and Junshan Zhang},
journal= {arXiv preprint arXiv:2211.00789},
year = {2022}
}
备注
Published as a conference paper at NeurIPS 2022