面向时间序列预测的结构引导的跨模态对齐方法
人工智能
2025-05-20 v1
摘要
利用预训练的大语言模型（LLM）进行时间序列预测的 emerging 方法主要通过 token 级别或层级特征映射实现语言-时间模态的对齐。然而，这些方法根本忽略了一个关键洞察：LLM的核心能力不仅在于处理局部 token 特征，更在于其建模整体序列结构的内在能力。本文认为，有效的跨模态对齐需要在序列层面实现结构一致性。我们提出了结构引导的跨模态对齐框架（SGCMA），通过充分利用和对齐时间序列与语言数据共享的状态转换图结构，将其作为序列模态进行对齐，从而赋予时间序列语言化的属性，并在模态对齐后实现更强的泛化能力。SGCMA包含两个关键组件，即结构对齐和语义对齐。在结构对齐中，通过隐藏马尔可夫模型（HMM）从文本数据学习状态转换矩阵，一个基于浅层 transformer 的最大熵马尔可夫模型（MEMM）接收热启动转换矩阵，并为每个时间片段分配状态概率，确保时间表示序列继承语言化的序列动力学。在语义对齐中，对时间片段与每个状态中 top-k token 之间的交叉注意力进行建模，最终通过基于状态概率的加权平均得到最终的时间嵌入。在多个基准测试上的实验表明，SGCMA实现了最先进的性能，为时间序列预测中的跨模态对齐提供了一种新方法。
引用
@article{arxiv.2505.13175,
title = {Enhancing LLMs for Time Series Forecasting via Structure-Guided Cross-Modal Alignment},
author = {Siming Sun and Kai Zhang and Xuejun Jiang and Wenchao Meng and Qinmin Yang},
journal= {arXiv preprint arXiv:2505.13175},
year = {2025}
}