基于Mamba和线性Transformer的双通道预测模型-DC-Mamber用于多变量时间序列预测
人工智能
2025-07-08 v1
摘要
在多变量时间序列预测(MTSF)中, 现有方法通常分为通道独立与通道混合两类。前者将每个变量的时间信息视为token, 关注捕获单个变量的局部时序特征; 后者则在每个时间步构建一个token, 强调建模全局时序依赖。当前主流模型主要基于Transformer和新兴的Mamba。Transformer通过自注意力机制擅长建模全局依赖, 但对局部时序模式的敏感性有限, 且在长序列处理中受限于二次计算复杂度。相比之下, Mamba基于状态空间模型(SSM)实现线性复杂度和高效的长程建模, 但在并行聚合全局上下文信息方面存在困难。为克服两种模型的局限, 我们提出DC-Mamber, 一种基于Mamba和线性Transformer的双通道预测模型用于时间序列预测。具体而言, Mamba基通道采用通道独立策略提取变量内特征, 而Transformer基通道采用通道混合策略建模跨时间步的全局依赖。DC-Mamber首先通过独立嵌入层将原始输入映射到两种不同的特征表示。随后, 这些表示分别由基于Mamba的变量编码器和基于线性Transformer的时序编码器处理。最后, 一个融合层整合双通道特征进行预测。在八个公开数据集上的大量实验表明, DC-Mamber在准确率上优于现有模型。
引用
@article{arxiv.2507.04381,
title = {DC-Mamber: A Dual Channel Prediction Model based on Mamba and Linear Transformer for Multivariate Time Series Forecasting},
author = {Bing Fan and Shusen Ma and Yun-Bo Zhao and Yu Kang},
journal= {arXiv preprint arXiv:2507.04381},
year = {2025}
}