中文

TimeRAF:用于零样本时间序列预测的检索增强基础模型

机器学习 2024-12-31 v1

摘要

时间序列预测在数据挖掘中发挥着关键作用,推动了诸多行业的快速发展。随着大模型的出现,时间序列基础模型(TSFMs)通过大规模预训练展现出了如零样本学习等的显著泛化能力。同时,检索增强生成(RAG)方法已被广泛用于提高基础模型在未见数据上的性能,使模型能够访问外部知识。本文介绍了 TimeRAF,这是一种检索增强的预测模型,通过检索增强技术提升零样本时间序列预测能力。我们开发了针对特定预测任务量身定制的时间序列知识库。TimeRAF 采用端到端可学习的检索器从知识库中提取有价值的信息。此外,我们提出了通道提示技术,用于有效地从检索到的知识中提取相关信息。广泛的实验结果表明,我们的模型非常有效,在各种领域和数据集上均实现了显著的改进。

关键词

引用

@article{arxiv.2412.20810,
  title  = {TimeRAF: Retrieval-Augmented Foundation model for Zero-shot Time Series Forecasting},
  author = {Huanyu Zhang and Chang Xu and Yi-Fan Zhang and Zhang Zhang and Liang Wang and Jiang Bian and Tieniu Tan},
  journal= {arXiv preprint arXiv:2412.20810},
  year   = {2024}
}