InvDec:具有分离时序与变量建模的多元时间序列预测倒置解码器
机器学习
2025-10-24 v1
摘要
多元时间序列预测需要同时对时序模式和跨变量依赖关系进行建模。像PatchTST这样的通道独立方法擅长时序建模,但忽略了变量相关性,而像iTransformer这样的纯变量注意力方法则牺牲了时序编码。我们提出InvDec(倒置解码器),一种混合架构,实现了时序编码和变量级解码的原则性分离。InvDec结合了基于块的时序编码器和通过变量间自注意力在变量维度上运行的倒置解码器。我们引入了延迟变量嵌入,仅在时序编码之后丰富特定于变量的表示,从而保持时序特征的完整性。一种自适应残差融合机制动态平衡不同维度数据集上的时序和变量信息。用PatchTST实例化InvDec得到InvDec-PatchTST。在七个基准上的大量实验证明了在高维数据集上的显著提升:与PatchTST相比,在Electricity(321个变量)上MSE降低20.9%,在Weather上提升4.3%,在Traffic上提升2.7%,同时在低维ETT数据集上保持有竞争力的性能。消融研究验证了每个组件,分析表明InvDec的优势随数据集维度的增加而增长,证实了跨变量建模在变量数量增加时变得至关重要。
引用
@article{arxiv.2510.20302,
title = {InvDec: Inverted Decoder for Multivariate Time Series Forecasting with Separated Temporal and Variate Modeling},
author = {Yuhang Wang},
journal= {arXiv preprint arXiv:2510.20302},
year = {2025}
}
备注
23pages, 3 figures