DSAT-HD:用于多变量时间序列预测的混合分解双流自适应 Transformer
机器学习
2025-09-30 v1 人工智能
摘要
时间序列预测对于天气、交通、电力和能源预测等各种应用至关重要。目前,常见的时间序列预测方法基于 Transformer。然而,现有方法主要建模有限的时间序列或固定尺度,这使得捕获跨不同范围的多样特征更具挑战性。此外,用于复杂季节性-趋势分解的传统方法(如 STL)需要预先指定季节周期,并且通常只处理单一、固定的季节性。我们提出了混合分解双流自适应 Transformer (DSAT-HD),它集成了三项关键创新以解决现有方法的局限性:1) 结合 EMA 和 Fourier 分解与 RevIN 归一化的混合分解机制,通过噪声 Top-k 门控动态平衡季节和趋势分量;2) 多尺度自适应路径,利用稀疏分配器将特征路由到四个并行的 Transformer 层,随后通过稀疏组合器进行特征合并,并由结合局部 CNN 和全局交互的混合注意力增强;3) 双流残差学习框架,其中 CNN 和 MLP 分支分别处理季节和趋势分量,由最小化专家协作方差的平衡损失函数进行协调。在九个数据集上的广泛实验表明,DSAT-HD 总体上优于现有方法,并在部分数据集上取得了 SOTA 性能。值得注意的是,它还在各种迁移场景中展现出更强的泛化能力。
引用
@article{arxiv.2509.24800,
title = {DSAT-HD: Dual-Stream Adaptive Transformer with Hybrid Decomposition for Multivariate Time Series Forecasting},
author = {Zixu Wang and Hongbin Dong and Xiaoping Zhang},
journal= {arXiv preprint arXiv:2509.24800},
year = {2025}
}
备注
10 pages, 5 figures