中文

Mamba4Cast:基于状态空间模型的高效零样时序预测模型

机器学习 2024-10-15 v1 人工智能

摘要

本文介绍Mamba4Cast,这是一个零样本基础时序预测模型。基于Mamba架构并受Prior-data Fitted Networks(PFNs)的启发,Mamba4Cast能够在无需数据集特定微调的情况下,对多样化时序任务进行稳健泛化。Mamba4Cast的核心创新在于能够在实际数据集上实现强大的零样性能力,同时比基于Transformer架构的时序基础模型具有更低的推理时间。该模型仅使用合成数据进行训练,即可对整个预测时段进行一次性生成预测,超越了传统的自回归方法。我们的实验表明,Mamba4Cast在 various 数据集上与其他领先的基础模型保持竞争力,并且在预测长度上扩展性显著优于其他模型。源代码可在 https://github.com/automl/Mamba4Cast 查阅。

关键词

引用

@article{arxiv.2410.09385,
  title  = {Mamba4Cast: Efficient Zero-Shot Time Series Forecasting with State Space Models},
  author = {Sathya Kamesh Bhethanabhotla and Omar Swelam and Julien Siems and David Salinas and Frank Hutter},
  journal= {arXiv preprint arXiv:2410.09385},
  year   = {2024}
}