基于指数平滑循环神经网络的工业预测
机器学习
2020-11-02 v2 机器学习
摘要
时间序列建模已进入数据规模与复杂度空前增长的时代,这需要新的建模方法。尽管出现了许多新的通用机器学习方法,但它们仍鲜为人理解,且与传统统计建模方法难以调和。我们提出一类通用的指数平滑循环神经网络(RNN),非常适合于建模工业应用中出现的非平稳动力系统。具体而言,我们分析了它们刻画时间序列非线性偏自相关结构以及直接捕捉季节性、趋势等动态效应的能力。将指数平滑 RNN 应用于电力负荷、天气数据和股票价格的预测,凸显了隐藏状态指数平滑在多步时间序列预测中的有效性。结果还表明,最初为语音处理设计、流行但更复杂的神经网络架构(如 LSTM 和 GRU)对于工业预测很可能属于过度设计,而轻量级的指数平滑架构在极短的训练时间内即可捕捉显著特征,并且优于简单 RNN 和 ARIMA 模型且更具鲁棒性。此外,由贝叶斯估计提供的指数平滑循环神经网络的不确定性量化被证明可改善覆盖概率。
引用
@article{arxiv.2004.04717,
title = {Industrial Forecasting with Exponentially Smoothed Recurrent Neural Networks},
author = {Matthew F Dixon},
journal= {arXiv preprint arXiv:2004.04717},
year = {2020}
}