Logo-LLM：使用大型语言模型进行时间序列预测的局部与全局建模
机器学习
2026-04-17 v2
摘要
时间序列预测在多个领域至关重要，时间序列数据同时表现出局部模式和全局依赖。虽然基于 Transformer 的方法有效地捕获全局依赖，但往往忽略时间序列中短期的局部变动。最近将大型语言模型（LLM）适用于时间序列预测的方法继承了这一局限，仅将 LLM 作为黑盒编码器，仅依赖最终层的输出，未充分利用层次化表示。为此，我们提出了 Logo-LLM，一种新型 LLM 基于框架，显式地从预训练 LLM 的不同层中提取并建模多尺度时间特征。通过经验分析，我们发现 LLM 的浅层捕获时间序列中的局部动态，而深层编码全局趋势。此外，Logo-LLM 引入轻量级的 Local-Mixer 和 Global-Mixer 模块，以便跨层对齐和集成具有时间输入的特征。广泛的实验表明，Logo-LLM 在 diverse benchmarks 上实现卓越的性能，在 few-shot 和 zero-shot 设置中表现出强大的泛化能力，同时保持较低的计算开销。
引用
@article{arxiv.2505.11017,
title = {Logo-LLM: Local and Global Modeling with Large Language Models for Time Series Forecasting},
author = {Wenjie Ou and Zhishuo Zhao and Cheng Chen and Dongyue Guo and Yi Lin},
journal= {arXiv preprint arXiv:2505.11017},
year = {2026}
}