UniCA:面向时间序列基座模型的统一协变量适配
机器学习
2026-03-25 v2 人工智能
摘要
时间序列基座模型(Time Series Foundation Models, TSFMs)通过大规模预训练取得了显著的成功。然而,其设计主要针对实数序列,限制了其处理涉及多样化且常为异构协变量的一般预测任务的能力,例如类别变量和多模态数据(如图像、文本),这些数据通常是任务特定的且在预训练期间难以利用。为此,我们提出了统一协变量适配(Unified Covariate Adaptation, UniCA)框架,以桥接 TSFMs 与通用协变量感知预测。UniCA 首先进行协变量同质化,将异构协变量转换为高级别的同质化序列表示,然后通过统一的注意力融合机制进行融合。UniCA 对使用同质或异构协变量的适配均兼容且通用,能够在保留 TSFM 泛化能力的同时纳入额外协变量信息。广泛的实验在多个单模态和多模态协变量感知预测基准上表明,UniCA 的优势显而易见,凸显了协变量感知 TSFM 在实际预测场景中的潜力。Code: https://github.com/hanlu-nju/UniCA.
引用
@article{arxiv.2506.22039,
title = {UniCA: Unified Covariate Adaptation for Time Series Foundation Model},
author = {Lu Han and Yu Liu and Lan Li and Qiwen Deng and Jian Jiang and Yinbo Sun and Zhe Yu and Binfeng Wang and Xingyu Lu and Lintao Ma and Han-Jia Ye and De-Chuan Zhan},
journal= {arXiv preprint arXiv:2506.22039},
year = {2026}
}