ISMRNN:一种用于长期时间序列预测的隐式分段RNN方法
机器学习
2024-08-06 v5 人工智能
摘要
长期时间序列预测旨在利用历史信息预测未来状态于扩展的时间范围内。传统的RNN-based系列预测方法在处理长期依赖和长时间序列问题中的梯度问题方面效果不佳。最近,SegRNN作为一种针对长期系列预测的领先RNN模型,展现出领先的性能,同时通过创新的分段和并行解码技术保持简洁的架构。然而,SegRNN仍存在若干局限性:其固定分段会破坏数据连续性,无法有效利用不同分段间的信息,所采用的分段策略未能从根本上解决循环结构中信息损失的问题。为此,我们提出ISMRNN方法,包含三个关键改进:我们引入隐式分段结构将时间序列分解并映射到分段隐藏状态,从而在分段阶段实现更密集的信息交换。此外,我们在编码层引入残差结构以缓解循环结构中的信息损失。为更有效地提取信息,我们进一步集成Mamba架构以增强时间序列信息提取。在多个真实世界长期时间序列预测数据集上的实验表明,我们的模型超越了当前最先进的模型性能。
引用
@article{arxiv.2407.10768,
title = {ISMRNN: An Implicitly Segmented RNN Method with Mamba for Long-Term Time Series Forecasting},
author = {GaoXiang Zhao and Li Zhou and XiaoQiang Wang},
journal= {arXiv preprint arXiv:2407.10768},
year = {2024}
}