基于回声状态网络的持续学习
机器学习
2021-08-18 v3 人工智能
摘要
持续学习(CL)指的是一种数据非平稳且模型必须在不忘却已有知识的前提下进行学习的学习设定。针对序列模式的CL研究主要围绕经训练的循环网络展开。与此不同,本文在回声状态网络(ESN)的背景下引入CL,其中循环部分保持固定。我们首次对ESN中的灾难性遗忘进行了评估,并强调了使用那些不适用于经训练循环模型的CL策略所带来的益处。我们的结果证实了ESN作为一种有前景的CL模型,并为其应用于流式场景开辟了可能。
引用
@article{arxiv.2105.07674,
title = {Continual Learning with Echo State Networks},
author = {Andrea Cossu and Davide Bacciu and Antonio Carta and Claudio Gallicchio and Vincenzo Lomonaco},
journal= {arXiv preprint arXiv:2105.07674},
year = {2021}
}
备注
Accepted as oral at ESANN 2021