ExoTST：面向时序预测的外生感知时序转换器

准确的长期预测是许多机器学习应用和决策过程的基础。传统的时间序列方法通常侧重于两种建模方式：一种是自回归建模，仅依赖目标“内生变量”的过去观测值；另一种是前向建模，只考虑当前的协变量驱动“外生变量”。然而，有效地将过去的内生变量与过去的外生变量以及当前的外生变量集成，仍然是一个重大挑战。本文提出了ExoTST，一种新颖的基于Transformer的框架，有效地将当前的外生变量与过去的上下文相结合，以提高时序预测的性能。为高效地集成外生信息，ExoTST利用注意力机制的优势，引入了一种新的跨时间模态融合模块。该模块使模型能够从过去和当前的外生序列中联合学习，将其视为不同的模态。通过将这些序列单独处理，ExoTST在处理由历史外生变量与当前外生变量之间固有分布迁移导致的数据不确定性方面提供了鲁棒性和灵活性。在真实世界的碳通量数据集和时间序列基准测试上的大量实验表明，ExoTST的性能优于最先进的基线方法，在预测准确率方面提升了最高可达10%。此外，ExoTST对外生驱动器中缺失值和噪声表现出强大的鲁棒性，在这些不完美情况在实际场景中很常见时，仍能保持一致的性能。