统一锚定:基于上下文感知的跨域时间序列预测 Transformer
机器学习
2025-03-04 v1
摘要
基础模型的兴起已彻底变革了自然语言处理和计算机视觉领域的做法,但其针对时间序列预测的最佳实践仍鲜有探索。现有时间序列基础模型常借鉴这些领域的方法,却未能解决时间序列数据独有的特征。在本文中,我们确定了跨域时间序列预测中的两个关键挑战:时序模式的复杂性和语义错位。为应对这些问题,我们提出了“统一锚定”(Unify and Anchor)迁移范式,该范式将频率分量解耦以实现统一视角,并将外部上下文作为域锚点进行引导性适应。基于此框架,我们引入ContexTST,一种基于 Transformer 的模型,采用时间序列协调器进行结构化表示,并利用基于上下文感知的混合专家机制 Transformer 块实现有效的跨域泛化。大量实验表明,ContexTST 在预测性能方面达到最前沿水平,同时实现了强大的零样本跨域迁移能力。
关键词
引用
@article{arxiv.2503.01157,
title = {Unify and Anchor: A Context-Aware Transformer for Cross-Domain Time Series Forecasting},
author = {Xiaobin Hong and Jiawen Zhang and Wenzhong Li and Sanglu Lu and Jia Li},
journal= {arXiv preprint arXiv:2503.01157},
year = {2025}
}
备注
20 pages, 12 figures, 8 tables, conference under review