用于持续学习的带协同训练的路由网络
机器学习
2020-09-10 v1 机器学习
摘要
持续学习的核心挑战是灾难性遗忘，即神经网络在按任务序列训练时会迅速遗忘先前学习任务的现象。已观察到当任务彼此不相似时灾难性遗忘最为严重。我们提出使用稀疏路由网络进行持续学习。对于每个输入，这些网络架构通过专家网络激活不同的路径。路由网络已被证明能学会将相似任务路由至重叠的专家集，将不相似任务路由至不相交的专家集。在持续学习语境下该行为是可取的，因为它在不相似任务间最小化干扰，同时允许相关任务间正迁移。实践中，我们发现有必要为路由网络开发一种称为协同训练的新训练方法，以避免在新任务出现时专家初始化不良。当与小型情景记忆回放缓冲结合时，带协同训练的稀疏路由网络在 MNIST-Permutations 和 MNIST-Rotations 基准上优于密集连接网络。
引用
@article{arxiv.2009.04381,
title = {Routing Networks with Co-training for Continual Learning},
author = {Mark Collier and Efi Kokiopoulou and Andrea Gesmundo and Jesse Berent},
journal= {arXiv preprint arXiv:2009.04381},
year = {2020}
}
备注
Presented at ICML Workshop on Continual Learning 2020