中文

TsLLM:增强 LLM 以实现通用时间序列理解与预测

机器学习 2026-03-17 v2

摘要

时间序列数据是医疗保健、金融、电力系统和物流等诸多领域决策的基础。然而,正确分析此类数据通常需要结合非结构化的上下文信息、回答特定领域的问题并生成自然语言解释——这些能力是传统时间序列模型所缺乏的。尽管大语言模型(LLM)擅长上下文推理与知识整合,但由于基于文本的表示效率低下且预训练阶段对数值数据的接触有限,它们在处理数值时间序列时存在困难。我们通过基于分块的编码器-解码器架构为 LLM 增加专门的时间序列感知能力,从而弥补了这一不足。我们在包含超过 250 亿个交错时间序列与文本 token 的大规模语料库上训练了该时间序列增强型 LLM(TsLLM),涵盖多种任务:带上下文信息的预测、问答、异常检测、分类、报告生成等,所有任务均统一为下一个 token 预测。这种训练使 TsLLM 能够同时利用其语言理解能力与新获得的时序推理能力。尽管 TsLLM 并非旨在传统基准测试上超越专用模型,但它在需要将时间序列分析与自然语言相结合的任务中表现出色——这是现有方法无法提供的能力。它还展现出强大的零样本与少样本性能,表明其无需额外训练即可适应新数据。

关键词

引用

@article{arxiv.2510.01111,
  title  = {TsLLM: Augmenting LLMs for General Time Series Understanding and Prediction},
  author = {Felix Parker and Nimeesha Chan and Chi Zhang and Kimia Ghobadi},
  journal= {arXiv preprint arXiv:2510.01111},
  year   = {2026}
}