ExpertGate：基于专家网络的终身学习
计算机视觉与模式识别
2017-04-20 v2 人工智能
机器学习
摘要
在本文中，我们介绍了一种基于专家网络的终身学习模型。新任务/专家被顺序地学习并添加到模型中，并建立在先前所学知识的基础之上。为了确保此过程的可扩展性，先前任务的数据无法存储，因此在学习新任务时不可用。在此背景下，文献中尚未解决的一个关键问题涉及在测试时应部署哪个专家。我们引入了一组门控自编码器，它们为当前任务学习一种表示，并在测试时自动将测试样本转发给相关专家。这也带来了内存效率，因为在任何给定时间只需将一个专家网络加载到内存中。此外，自编码器本质上捕获了一个任务与另一个任务之间的相关性，基于此可以选择最相关的先验模型，通过微调或无遗忘学习来训练新专家。我们在图像分类和视频预测问题上评估了我们的方法。
引用
@article{arxiv.1611.06194,
title = {Expert Gate: Lifelong Learning with a Network of Experts},
author = {Rahaf Aljundi and Punarjay Chakravarty and Tinne Tuytelaars},
journal= {arXiv preprint arXiv:1611.06194},
year = {2017}
}
备注
CVPR 2017 paper