跨RAG：基于跨注意力的零样图时间序列预测
机器学习
2026-03-17 v1
摘要
近期时间序列基础模型 (TSFM) 的进展展示了通过大规模预训练在多样化时间序列领域的强大表达能力。然而，零样图时间序列预测 with TSFMs 却在对未见数据集的泛化性有限，这由检索增强预测所解决，通过利用外部知识库实现。现有方法依赖固定数量的检索样本，可能引入无关信息。为此，我们提出 Cross-RAG，一个零样图检索增强预测框架，通过跨注意力有选择地注意 query-relevant 检索样本。Cross-RAG 通过 query-retrieval 跨注意力建模 query 与检索样本之间的 input-level 相关性，同时联合 incorporating query 和检索样本的信息。广泛的实验表明，Cross-RAG 在 various TSFMs 和 RAG 方法上 consistently improve 零样图预测性能，额外分析确认其在 diverse retrieval scenarios 中的有效性。代码已公开于 https://github.com/seunghan96/cross-rag/。
引用
@article{arxiv.2603.14709,
title = {Cross-RAG: Zero-Shot Retrieval-Augmented Time Series Forecasting via Cross-Attention},
author = {Seunghan Lee and Jaehoon Lee and Jun Seo and Sungdong Yoo and Minjae Kim and Tae Yoon Lim and Dongwan Kang and Hwanil Choi and SoonYoung Lee and Wonbin Ahn},
journal= {arXiv preprint arXiv:2603.14709},
year = {2026}
}