MODE：基于低秩神经ODE增强的Mamba高效时间序列预测
机器学习
2026-01-13 v2 人工智能
摘要
时间序列预测在金融、医疗、能源系统和环境建模等多个领域发挥着关键作用。然而，现有方法往往难以在处理长程依赖和不规则采样数据时兼顾效率、可扩展性和准确性。为此，我们提出MODE——一个统一框架，将低秩神经常微分方程（Neural ODEs）与增强型Mamba架构相结合。如本文所示，输入序列首先通过线性分词层转化，然后通过多个Mamba编码器块处理，每个编码器块都配备了采用因果卷积、SiLU激活及低秩神经ODE增强的增强型Mamba层，以高效捕获时序动态。这种低秩表述降低了计算开销，同时保持了表达能力。此外，引入分段选择扫描机制，灵感来自伪ODE动力学，可适应性地聚焦于关键子序列，从而提升可扩展性和长序列建模。广泛的基准实验表明，MODE在预测准确率和计算效率方面均超越了现有基线。我们的贡献包括：(1)用于长期时间序列建模的统一且高效架构；(2)将Mamba的选择性扫描与低秩神经ODE相结合以增强时序表征；(3)通过低秩近似和动态选择性扫描实现的显著效率和可扩展性提升。
引用
@article{arxiv.2601.00920,
title = {MODE: Efficient Time Series Prediction with Mamba Enhanced by Low-Rank Neural ODEs},
author = {Xingsheng Chen and Regina Zhang and Bo Gao and Xingwei He and Xiaofeng Liu and Pietro Lio and Kwok-Yan Lam and Siu-Ming Yiu},
journal= {arXiv preprint arXiv:2601.00920},
year = {2026}
}
备注
12 pages, 6 figures, and 3 tables. Updated description and explanations, and correct some typos