来自未来的洞见：持续学习的新视角
计算机视觉与模式识别
2020-06-25 v1
摘要
持续学习旨在顺序学习任务，对旧学习样本的存储有（通常严格的）约束，且不发生灾难性遗忘。本工作中，我们提出预知持续学习（prescient continual learning），一种新颖的实验设定，在任何训练数据之前融入关于类别的已有信息。通常，传统持续学习设定中每个任务在当下与过去类别上评估模型，后者仅有少量训练样本。我们的设定增加了未来类别，且完全无训练样本。我们引入 Ghost Model，一种基于表示学习的持续学习模型，使用来自零样本学习的思想。表示空间的生成模型配合损失的精细调节，使我们能利用未来类别的洞见来约束过去与当前类别的空间排布。在 AwA2 与 aP&Y 数据集上的定量结果与详细可视化展示了这一新设定及我们提出应对方法的趣味性。
引用
@article{arxiv.2006.13748,
title = {Insights from the Future for Continual Learning},
author = {Arthur Douillard and Eduardo Valle and Charles Ollion and Thomas Robert and Matthieu Cord},
journal= {arXiv preprint arXiv:2006.13748},
year = {2020}
}