无任务持续学习
计算机视觉与模式识别
2019-08-20 v3 人工智能
机器学习
机器学习
摘要
文献中提出的面向持续深度学习的方法通常在基于任务的序列学习设定下运行。依次学习一系列任务，一次一个，当前任务的所有数据可用但先前或未来任务的数据不可用。任务边界和身份始终已知。然而，这种设定在实际应用中很少遇到。因此我们研究如何将持续学习转化为在线设定。我们开发了一个系统，以流式方式随时间持续学习，数据分布逐渐变化且不存在独立任务的概念。为此，我们基于Memory Aware Synapses的工作构建，并展示了如何使其在线化，给出协议以决定i)何时更新重要性权重，ii)使用哪些数据来更新它们，以及iii)如何在每个更新步骤累积重要性权重。实验结果表明该方法在两类应用中的有效性：（自）监督式通过观看肥皂剧学习人脸识别模型，以及学习机器人避免碰撞。
引用
@article{arxiv.1812.03596,
title = {Task-Free Continual Learning},
author = {Rahaf Aljundi and Klaas Kelchtermans and Tinne Tuytelaars},
journal= {arXiv preprint arXiv:1812.03596},
year = {2019}
}
备注
Accepted as a conference paper in CVPR 2019. Rahaf Aljundi and Klaas Kelchtermans have contributed equally to this work