中文

LangTime:一种基于近端策略优化的语言引导时间序列预测统一模型

机器学习 2025-07-02 v2

摘要

近期的研究表明,人们对利用预训练大型语言模型(LLM)处理各种时间序列应用越来越感兴趣。然而,在将 LLM 作为时间序列预测的基础模型时存在三个主要挑战:(1)跨领域泛化。(2)跨模态对齐。(3)自回归框架中的误差累积。为了应对这些挑战,我们提出了 LangTime,一种用于时间序列预测的语言引导统一模型,它结合了跨领域预训练与基于强化学习的微调。具体而言,LangTime 构建了时间理解提示(TCP),其中包含数据集级和通道级的指令,以促进领域适应并将时间序列压缩为单个 token,使 LLM 能够更好地理解和对齐时间数据。为了改进自回归预测,我们引入了 TimePPO,一种基于强化学习的微调算法。TimePPO 通过利用为时间序列量身定制的多维奖励函数和基于重复的价值估计策略来缓解误差累积。大量实验表明,LangTime 实现了最先进的跨领域预测性能,而 TimePPO 微调有效增强了自回归预测的稳定性和准确性。

关键词

引用

@article{arxiv.2503.08271,
  title  = {LangTime: A Language-Guided Unified Model for Time Series Forecasting with Proximal Policy Optimization},
  author = {Wenzhe Niu and Zongxia Xie and Yanru Sun and Wei He and Man Xu and Chao Hao},
  journal= {arXiv preprint arXiv:2503.08271},
  year   = {2025}
}