在持续学习中使用后见之明锚定过往知识
机器学习
2021-03-03 v2 机器学习
摘要
在持续学习中，学习者面对的数据流其分布随时间变化。现代神经网络在此设定下已知会遭受快速遗忘已学知识的问题。为应对此类灾难性遗忘，许多持续学习方法实现了不同类型的经验回放，即在称为情景记忆的小缓冲区中存储的过往数据上重新学习。本工作中，我们辅以一种新的目标函数，称为锚定（anchoring），学习者使用双层优化来更新其在当前任务上的知识，同时保持对过往任务某些锚点预测的完整。这些锚点通过基于梯度的优化学习以最大化遗忘，后者通过在当前训练模型上微调过往任务的情景记忆来近似。在多个持续学习的监督学习基准上的实验表明，我们的方法在各种情景记忆大小下，于准确率和遗忘指标方面均优于标准经验回放。
引用
@article{arxiv.2002.08165,
title = {Using Hindsight to Anchor Past Knowledge in Continual Learning},
author = {Arslan Chaudhry and Albert Gordo and Puneet K. Dokania and Philip Torr and David Lopez-Paz},
journal= {arXiv preprint arXiv:2002.08165},
year = {2021}
}
备注
Accepted at AAAI 2021