面向多元非平稳时间序列预测的在线进化神经架构搜索
机器学习
2023-02-22 v1 神经与进化计算
摘要
时间序列预测(TSF)是数据科学中最重要的任务之一,因为准确的时间序列(TS)预测模型在金融、交通、医疗保健和电力系统等广泛领域中发挥着重要作用。机器学习的实际利用通常涉及在收集的历史数据上(预)训练模型,然后将其应用于未见过的数据点。然而,在实际应用中,时间序列数据流通常是非平稳的,训练好的机器学习模型通常随时间面临数据或概念漂移的问题。为解决此问题,必须定期重新训练或重新设计模型,这耗费大量人力和计算资源。此外,甚至可能不存在历史数据用于重新训练或重新设计模型。因此,模型以在线方式设计和训练是极为可取的。本工作提出在线基于神经进化的神经架构搜索(ONE-NAS)算法,这是一种新颖的神经架构搜索方法,能够自动设计并动态训练循环神经网络(RNNs)以用于在线预测任务。无需任何预训练,ONE-NAS利用RNN种群,这些种群随着新的多元输入数据持续以新的网络结构和权重进行更新。ONE-NAS在真实世界大规模多元风力涡轮机数据以及单变量道琼斯工业平均指数(DJIA)数据集上进行了测试。结果表明,ONE-NAS优于传统统计时间序列预测方法,包括在线线性回归、在线训练的固定长短期记忆(LSTM)和门控循环单元(GRU)模型,以及最先进的在线ARIMA策略。
引用
@article{arxiv.2302.10347,
title = {Online Evolutionary Neural Architecture Search for Multivariate Non-Stationary Time Series Forecasting},
author = {Zimeng Lyu and Alexander Ororbia and Travis Desell},
journal= {arXiv preprint arXiv:2302.10347},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2202.13471