超越监督式持续学习:一篇综述
机器学习
2022-08-31 v1
摘要
持续学习(CL,有时也称为增量学习)是机器学习的一种类型,其中关于平稳数据分布的通常假设被放宽或省略。当朴素地将例如深度神经网络(DNN)应用于 CL 问题时,数据分布的变化会导致所谓的灾难性遗忘(CF)效应:先前知识的突然丧失。尽管近年来在实现 CL 方面已有诸多重要贡献,大多数工作针对监督式(分类)问题。本文综述在其他设定下研究 CL 的文献,例如减少监督的学习、完全无监督学习和强化学习。除了提出一种依据自主性与监督程度对 CL 方法进行简单分类的框架外,我们讨论了与各设定相关的具体挑战以及对 CL 领域总体的潜在贡献。
引用
@article{arxiv.2208.14307,
title = {Beyond Supervised Continual Learning: a Review},
author = {Benedikt Bagus and Alexander Gepperth and Timothée Lesort},
journal= {arXiv preprint arXiv:2208.14307},
year = {2022}
}
备注
Accepted at the ESANN2022, 19 pages, 1 figure