LLM-PS:通过时间模式与语义赋能大语言模型进行时间序列预测
机器学习
2025-03-14 v1 计算与语言
摘要
时间序列预测(TSF)在许多现实领域(如金融规划和健康监测)中至关重要。近期研究揭示,大语言模型(LLM)凭借其强大的上下文建模能力,在TSF中具有显著潜力。然而,现有的基于LLM的方法通常表现次优,因为它们忽略了时间序列数据的固有特征。与LLM预训练中使用的文本数据不同,时间序列数据语义稀疏且包含独特的时序模式。为解决这一问题,我们提出LLM-PS,通过从时间序列数据中学习基本的\textit{模式}和有意义的\textit{语义}来赋能LLM进行TSF。我们的LLM-PS集成了一个能够同时捕捉时间序列中短期波动和长期趋势的多尺度卷积神经网络。同时,我们引入了一个时序到文本模块,用于在连续时间区间而非孤立时间点中提取有价值的语义。通过整合这些模式和语义,LLM-PS有效建模了时序依赖,实现了对时间序列的深度理解并提供了准确的预测。大量实验结果表明,LLM-PS在短期和长期预测任务以及少样本和零样本设置中均达到了最先进的性能。
引用
@article{arxiv.2503.09656,
title = {LLM-PS: Empowering Large Language Models for Time Series Forecasting with Temporal Patterns and Semantics},
author = {Jialiang Tang and Shuo Chen and Chen Gong and Jing Zhang and Dacheng Tao},
journal= {arXiv preprint arXiv:2503.09656},
year = {2025}
}