预测各类时间序列行为的最佳 RNN 单元结构是什么？
机器学习
2024-09-23 v2 人工智能
摘要
毋庸置疑，时间序列预测在许多领域中至关重要。用于解决时间序列预测任务最常用的机器学习模型是循环神经网络（RNN）。通常，这些模型使用三种最流行的单元之一构建：ELMAN、长短期记忆（LSTM）或门控循环单元（GRU）单元。每种单元具有不同的结构并意味着不同的计算代价。然而，为何以及何时使用每种 RNN 单元结构并不明确。实际上，目前尚无对所有可能时间序列行为的全面刻画，亦无关于每种行为最适用何种 RNN 单元结构的指导。本研究的目的是双重的：提出几乎全部时间序列行为的综合分类法，并为每种时间序列行为提供最佳 RNN 单元结构的见解。我们进行了两项实验：（1）我们通过在其基础架构上做一次改动（移除、添加或替换一个单元组件）创建 11 种变体，评估并分析 LSTM-Vanilla 单元中每个组件的作用。（2）我们评估并分析 20 种可能的 RNN 单元结构的性能。为评估、比较并选择最佳模型，使用了不同的统计度量：基于误差的度量、基于信息准则的度量、基于朴素预测的度量以及基于方向变化的度量。为进一步提升对模型解释与选择的置信度，使用了 Friedman Wilcoxon-Holm 符号秩检验。我们的结果主张在时间序列预测中使用并探索新创建的 RNN 变体 SLIM，因其具有高精度预测不同时间序列行为的能力，以及其简单的结构设计无需昂贵的时间与计算资源。
引用
@article{arxiv.2203.07844,
title = {What is the best RNN-cell structure to forecast each time series behavior?},
author = {Rohaifa Khaldi and Abdellatif El Afia and Raddouane Chiheb and Siham Tabik},
journal= {arXiv preprint arXiv:2203.07844},
year = {2024}
}
备注
58 pages, 26 figures