通过权重巩固与长期记忆克服灾难性遗忘问题
机器学习
2018-05-22 v1 机器学习
摘要
使用梯度下降在人工神经网络中顺序学习多个任务会导致灾难性遗忘，即先前学习的知识在学习新的、不相交的知识时被抹去。本文提出一种利用近期对抗样本发现的顺序学习新方法。我们利用来自先前任务的对抗子空间来实现新任务的学习并减少干扰。我们将该方法应用于顺序学习在 MNIST 中对数字 0、1、2（任务 1），4、5、6（任务 2），以及 7、8、9（任务 3）进行分类（不相交 MNIST 任务）。我们将对抗方向（AD）方法与近期提出的用于顺序学习的弹性权重巩固（EWC）方法进行比较和结合。每个任务训练 20 个轮次，这带来了良好的初始性能（任务 1 正确率 99.24%）。在训练任务 2 继而训练任务 3 后，普通梯度下降（PGD）和 EWC 都大幅遗忘了任务 1（PGD 的任务 1 准确率为 32.95%，EWC 为 41.02%），而我们的结合方法（AD+EWC）在任务 1 上仍达到 94.53% 的正确率。在一个困难得多的不相交 CIFAR10 任务上我们获得了类似结果，据我们所知此前尚未有人尝试过该任务（AD+EWC 初始任务 1 性能 70.10%，学习完任务 2 和 3 后为 67.73%，而 PGD 和 EWC 均跌至随机水平）。我们的结果表明 AD+EWC 能提供优于 PGD 或 EWC 的顺序学习性能。
引用
@article{arxiv.1805.07441,
title = {Overcoming catastrophic forgetting problem by weight consolidation and long-term memory},
author = {Shixian Wen and Laurent Itti},
journal= {arXiv preprint arXiv:1805.07441},
year = {2018}
}
备注
for Conference on Neural Information Processing Systems 2018 submission