中文

CC-Time:面向时间序列预测的跨模型与跨模态学习

机器学习 2025-09-30 v3

摘要

随着预训练语言模型(PLMs)在自然语言处理之外的多个应用领域取得成功,语言模型在时间序列预测(TSF)领域引起了新兴关注并展现出巨大前景。然而,当前基于PLM的TSF方法仍未能达到与语言模型强大序列建模能力相匹配的令人满意的预测精度。为解决这一问题,我们提出了基于PLM的跨模型与跨模态时间序列预测学习方法(CC-Time)。我们从两个方面探索PLM在时间序列预测中的潜力:1)PLM可以建模哪些时间序列特征,以及2)仅依赖PLM是否足以构建时间序列模型。在第一方面,CC-Time引入跨模态学习,从时间序列及其对应的文本描述两方面,在语言模型中建模时间依赖性和通道相关性。在第二方面,CC-Time进一步提出跨模型融合模块,自适应地整合来自PLM和时间序列模型的知识,以形成对时间序列模式更全面的建模。在九个真实世界数据集上的大量实验表明,CC-Time在全量数据训练和小样本学习场景下均达到了最先进的预测精度。

关键词

引用

@article{arxiv.2508.12235,
  title  = {CC-Time: Cross-Model and Cross-Modality Time Series Forecasting},
  author = {Peng Chen and Yihang Wang and Yang Shu and Yunyao Cheng and Kai Zhao and Zhongwen Rao and Lujia Pan and Bin Yang and Chenjuan Guo},
  journal= {arXiv preprint arXiv:2508.12235},
  year   = {2025}
}