中文

TS-RAG:基于检索增强生成的时间序列基础模型在零样图预测中表现更优

机器学习 2025-11-27 v4 人工智能

摘要

大语言模型(LLM)和基础模型(FM)最近变得流行,用于时间序列预测任务。虽然微调 LLM 使其能够适应特定领域,但它们往往难以在 diverse and unseen 数据集之间泛化。此外,现有的 TSFMs 仍面临处理非平稳动力学和分布迁移的挑战,主要由于缺乏有效的适应机制。为此,我们提出了 TS-RAG,一种用于时间序列预测的检索增强生成框架,增强了 TSFMs 的泛化性和可解释性。具体而言,TS-RAG 利用预训练的时间序列编码器从专门的知识库中检索语义相关的片段,以丰富输入查询的上下文表示。此外,我们提出了自适应检索混合器(ARM)模块,动态地将检索到的模式与 TSFM 的内部表示融合,在无需任务特定微调的情况下提高预测准确性。对七个公开基准数据集进行详实的实证研究表明,TS-RAG 实现了最先进的零样图预测性能,在 diverse 领域中性能提升最高可达 6.84%,同时也提供了令人满意的可解释性。我们的代码和数据已公开:https://github.com/UConn-DSIS/TS-RAG

关键词

引用

@article{arxiv.2503.07649,
  title  = {TS-RAG: Retrieval-Augmented Generation based Time Series Foundation Models are Stronger Zero-Shot Forecaster},
  author = {Kanghui Ning and Zijie Pan and Yu Liu and Yushan Jiang and James Yiming Zhang and Kashif Rasul and Anderson Schneider and Lintao Ma and Yuriy Nevmyvaka and Dongjin Song},
  journal= {arXiv preprint arXiv:2503.07649},
  year   = {2025}
}