超越全连接:基于因果对齐的可变结构 Transformer 用于多变量时间序列预测
机器学习
2026-02-16 v2
摘要
大多数现有的多变量时间序列预测方法采用全连接范式,将所有变量的历史输入到统一模型中进行预测,而不区分其 individual 角色。然而,这种没有区分的范式难以识别变量特有的因果影响,常将因果相关信息与虚假相关性混合。为解决这一局限,我们提出一种全连接到单目标(all-to-one)的预测范式,针对每个目标变量单独进行预测。具体而言,我们从观测数据构建结构因果模型,然后针对每个目标变量,根据推断的因果结构将历史序列划分为四个子段:内生、直接因果、collider 因果和虚假相关。进一步,我们提出了因果分解 Transformer(CDT),其集成了动态因果适配器,通过推断图初始化的因果结构,实现对不完美因果发现的纠正。此外,受因果理论启发,我们应用投影-based 输出约束以缓解 collider 引发的偏差并提升鲁棒性。多个基准数据集上的广泛实验表明,CDT 的有效性得到充分验证。
关键词
引用
@article{arxiv.2505.16308,
title = {Beyond All-to-All: Causal-Aligned Transformer with Dynamic Structure Learning for Multivariate Time Series Forecasting},
author = {Xingyu Zhang and Hanyun Du and Zeen Song and Siyu Zhao and Changwen Zheng and Wenwen Qiang},
journal= {arXiv preprint arXiv:2505.16308},
year = {2026}
}