UmambaTSF:一种基于 Mamba 的 U 型多尺度长期时间序列预测方法
机器学习
2024-10-16 v1
摘要
多变量时间序列预测在交通、气象和金融等领域至关重要,尤其是用于预测极端天气事件。当前最先进的方法主要依赖 Transformer 架构,通过注意力机制捕捉时间依赖性。然而,这些方法受限于二次时间复杂性,限制了模型在输入序列长度方面的可扩展性,显著限制了其在实际中的实用性。基于状态空间模型(SSM)的 Mamba 提供了线性时间复杂性的解决方案,提高了顺序数据高效预测的潜力。在本研究中,我们提出了 UmambaTSF,一种新的长期时间序列预测框架,将 U 型编码器-解码器多层感知机(MLP)的多尺度特征提取能力与 Mamba 的长序列表示相结合。为提高性能和效率,本框架中引入的 Mamba 块采用改进的残差结构和可适应的设计,能够捕捉独特的时间信号并实现灵活的通道处理。在实验中,UmambaTSF 在广泛使用的基准数据集上实现了领先的性能和出色的通用性,同时保持线性时间复杂性和低内存消耗。
引用
@article{arxiv.2410.11278,
title = {UmambaTSF: A U-shaped Multi-Scale Long-Term Time Series Forecasting Method Using Mamba},
author = {Li Wu and Wenbin Pei and Jiulong Jiao and Qiang Zhang},
journal= {arXiv preprint arXiv:2410.11278},
year = {2024}
}