CLeaR：一种面向回归任务的自适应持续学习框架

灾难性遗忘是指训练好的神经网络模型在重新训练新任务时逐渐遗忘先前学习任务的现象。克服遗忘问题是机器学习中的一大难题。众多持续学习算法在分类任务的增量学习中非常成功，其中带标签的新样本频繁出现。然而，据我们所知，目前尚无研究解决回归任务中的灾难性遗忘问题。该问题已成为某些应用（如可再生能源预测）中的主要限制之一。本文阐明了相关问题的定义，并提出了一种新方法框架，能够通过持续学习预测目标并自我更新。该框架由预测神经网络与缓冲区组成，缓冲区存储来自应用中非平稳数据流的新采集数据。框架所识别的数据流概率分布变化将被顺序学习。该框架称为 CLeaR（Continual Learning for Regression Tasks，面向回归任务的持续学习），其组件可针对特定应用场景灵活定制。我们设计两组实验来评估 CLeaR 框架的拟合误差（训练）、预测误差（测试）与遗忘率。第一组基于人工时间序列，探究超参数如何影响 CLeaR 框架；第二组采用欧洲风电场采集的数据，评估 CLeaR 框架在真实应用中的表现。实验结果表明，CLeaR 框架能够持续获取数据流中的知识并提升预测精度。文末给出了因框架扩展需求而产生的进一步研究问题。