基于情景记忆的终身学习的改进方案
机器学习
2020-12-16 v7 机器学习
摘要
当前的深度神经网络在单一任务上可取得卓越性能。然而，当深度神经网络持续地在一系列任务上训练时，似乎会逐渐遗忘先前学到的知识。该现象被称为灾难性遗忘，并催生了称为终身学习的领域。近来，基于情景记忆的方法（如GEM和A-GEM）已展现出卓越性能。本文中，我们从优化视角提供了首个基于情景记忆方法的统一视图。该视图引出了两种用于基于情景记忆的终身学习的改进方案，称为MEGA-I和MEGA-II。MEGA-I和MEGA-II通过将当前梯度与情景记忆上计算的梯度相集成，来调节旧任务与新任务之间的平衡。值得注意的是，我们表明GEM和A-GEM是MEGA-I和MEGA-II的退化情形，它们无论损失如何随时间变化，始终对当前任务赋予相同权重。我们提出的方案通过使用新颖的损失平衡更新规则解决了此问题，大幅提升了相对于GEM和A-GEM的性能。大量实验结果表明，所提方案在四个常用终身学习基准上显著推进了最先进水平，将错误率降低多达18%。
引用
@article{arxiv.1909.11763,
title = {Improved Schemes for Episodic Memory-based Lifelong Learning},
author = {Yunhui Guo and Mingrui Liu and Tianbao Yang and Tajana Rosing},
journal= {arXiv preprint arXiv:1909.11763},
year = {2020}
}
备注
NeurIPS 2020, Spotlight. 17 pages. Code: https://github.com/yunhuiguo/MEGA