FiCoTS：面向时间序列预测的 LLM 增强型层次跨模态交互
机器学习
2025-12-02 v1 人工智能
摘要
时间序列预测是数据分析和 Web 技术的核心任务。近期大语言模型（LLM）的成功为该领域带来了巨大的潜力，尤其是从跨模态角度来看。大多数方法采用 LLM 作为预测基座的范式，使用 LLM 作为 forecasting backbone 并设计模态对齐机制，使其能够理解时间序列数据。然而，时间序列和文本两种模态的语义信息差异巨大，使得 LLM 难以完全理解时间序列数据。为缓解这一挑战，我们的工作遵循 LLM 作为增强器范式，充分利用 LLM 在文本理解方面的优势，仅将 LLM 用于编码文本模态以补充时间序列模态。基于此范式，我们提出了 FiCoTS，一个 LLM 增强型细粒度到粗粒度框架，用于多模态时间序列预测。具体而言，该框架在细粒度到粗粒度方案中通过三个层级实现渐进式跨模态交互：首先，在 token 级别的模态对齐模块中，构建动态异构图以过滤噪声并对齐时间序列 patch 与文本 token；其次，在特征级别的模态交互模块中，引入全局跨注意力机制，使每个时间序列变量能够连接到相关文本上下文；最后，在决策级别的模态融合模块中，我们设计了一个门控网络，用于自适应融合两种模态的结果，以实现稳健的预测。这三个模块协同工作，使两种模态在三个语义层级上进行全面交互，使文本信息有效地支持时间预测。在七个真实世界基准上的大量实验表明，我们的模型实现了最先进的性能。代码将公开发布。
引用
@article{arxiv.2512.00293,
title = {FiCoTS: Fine-to-Coarse LLM-Enhanced Hierarchical Cross-Modality Interaction for Time Series Forecasting},
author = {Yafei Lyu and Hao Zhou and Lu Zhang and Xu Yang and Zhiyong Liu},
journal= {arXiv preprint arXiv:2512.00293},
year = {2025}
}