T-LLM：通过时序蒸馏让大语言模型进行时间序列预测
机器学习
2026-02-03 v1 人工智能
摘要
时间序列预测在诸多实际应用中发挥关键作用。与视觉和语言领域的数据不同，时间序列数据本质上与底层过程的演变紧密相关，只能随实际时间推进而积累，这限制了规模驱动预训练的有效性。这种时序约束为使大型语言模型（LLM）获取预测能力带来挑战，因为现有方法主要依赖表示级对齐或推理时时序模块，而非显式教授LLM进行预测。我们提出T-LLM，一种时序蒸馏框架，通过从轻量时序教师传递预测行为来赋予通用LLM时间序列预测能力。教师模型结合趋势建模和频域分析提供结构化时序监督，推理时完全移除，使LLM成为唯一的预测模型。基准数据集和传染病预测任务上的实验表明，T-LLM在全样本、少样本和零样本设置下均优于现有基于LLM的预测方法，实现简单高效的部署流程。
引用
@article{arxiv.2602.01937,
title = {T-LLM: Teaching Large Language Models to Forecast Time Series via Temporal Distillation},
author = {Suhan Guo and Bingxu Wang and Shaodan Zhang and Furao Shen},
journal= {arXiv preprint arXiv:2602.01937},
year = {2026}
}