通过向时间序列注入噪声提升离线 LLM 的零样图时间序列预测
人工智能
2025-12-24 v1
摘要
大语言模型（LLM）已显示在零样图时间序列（TS）预测中具有有效性。关键挑战在于将 TS 数据标记化为符合 LLM 预训练知识的文本表示。虽然现有工作常依赖微调专用模块来填补这一鸿沟，但另一种独特且具挑战性的范式旨在利用完全不进行微调的即插即用 LLM，仅依赖对数值序列进行策略化标记化。这种完全冻结模型的性能对输入数据的文本表示极其敏感，因为其参数无法适应分布偏移。在本文中，我们引入一种简单且高度有效的策略：在标记化前向时间序列注入噪声。这种非侵入性干预充当推理时的数据增强，迫使冻结的 LLM 基于稳健的底层时序模式进行外推，而非依赖细微的数值瑕疵。我们对此现象进行了理论分析，并在多样化基准测试上进行了实证验证。值得注意的是，为完全消除 LLM 预训练期间数据污染可能带来的偏见，我们引入了两个超出所用 LLM 预训练范围的全新 TS 数据集，并持续观察到性能提升。该研究为直接利用即插即用 LLM 进行时间序列预测提供了进一步的一步。
引用
@article{arxiv.2512.20140,
title = {Enhancing Zero-Shot Time Series Forecasting in Off-the-Shelf LLMs via Noise Injection},
author = {Xingyou Yin and Ceyao Zhang and Min Hu and Kai Chen},
journal= {arXiv preprint arXiv:2512.20140},
year = {2025}
}
备注
9 pages,3 figures