LTSM-Bundle:用于时间序列预测的大语言模型工具包与基准
机器学习
2026-02-16 v3 人工智能
摘要
时间序列预测(TSF)长期以来都是时间序列分析中的一个挑战。受大语言模型(LLMs)成功的启发,研究者们开发了大型时间序列模型(LTSMs)——基于自回归预测改进TSF的通用 transformer 模型。然而,在异构时间序列数据上训练LTSMs具有独特挑战,包括跨数据集的多样化频率、维度和模式。近期研究探讨了各种设计选择以增强LTSM训练和泛化能力,但这些选择通常在孤立情况下进行研究和评估,未进行整体基准测试。本文引入LTSM-Bundle,一个涵盖预处理技术、模型配置和数据配置的综合工具包与基准。我们从多个维度对LTSMs进行模块化和基准测试,包括提示策略、标记化方法、训练范式、基础模型选择、数据量和数据多样性。此外,我们组合了我们研究中识别出的最有效设计选择。实证结果表明,该组合在基准数据集上实现了优于最先进LTSMs和传统TSF方法的优异零样图和few-shot 性能。
引用
@article{arxiv.2406.14045,
title = {LTSM-Bundle: A Toolbox and Benchmark on Large Language Models for Time Series Forecasting},
author = {Yu-Neng Chuang and Songchen Li and Jiayi Yuan and Guanchu Wang and Kwei-Herng Lai and Joshua Han and Zihang Xu and Songyuan Sui and Leisheng Yu and Sirui Ding and Chia-Yuan Chang and Alfredo Costilla Reyes and Daochen Zha and Xia Hu},
journal= {arXiv preprint arXiv:2406.14045},
year = {2026}
}