面向金融时间序列预测的检索增强型大语言模型
计算与语言
2025-06-10 v3
摘要
准确预测股票价格走势是金融决策中至关重要的任务，支持从算法交易到风险管理等众多应用。然而，该任务始终备受挑战，因从噪声金融时间序列数据中检索细微却高影响的模式十分困难，其中常规检索方法——无论基于通用语言模型还是简单的数值相似性——往往难以捕捉精确市场预测所必需的复杂时序依赖性和情境特定信号。为弥合这一差距，本文引入了 FinSrag——首个面向金融时间序列预测的检索增强生成（RAG）框架，搭载 novel 领域特定检索器 FinSeer。FinSeer 利用由 LLM 反馈细化的候选选择机制及基于相似度的训练目标，将查询与历史有影响力的序列对齐，同时过滤金融噪声。通过此类训练，FinSeer 能够识别下游预测任务中最相关的时间序列数据片段，不同于现有 RAG 框架中基于嵌入或距离的检索方法。检索到的模式随后输入 StockLLM——一个为股票运动预测微调的 1B 参数 LLM，作为生成主干。除检索方法外，我们通过构建全新的数据集来丰富检索语料库，其中整合更广泛的金融指标，捕捉此前被忽视的市场动态。实验表明，FinSeer 在提升 StockLLM 预测准确性方面优于现有文本检索器和传统距离基检索方法，凸显了领域特定检索框架在处理金融时间序列数据复杂性方面的重要性。
引用
@article{arxiv.2502.05878,
title = {Retrieval-augmented Large Language Models for Financial Time Series Forecasting},
author = {Mengxi Xiao and Zihao Jiang and Lingfei Qian and Zhengyu Chen and Yueru He and Yijing Xu and Yuecheng Jiang and Dong Li and Ruey-Ling Weng and Min Peng and Jimin Huang and Sophia Ananiadou and Qianqian Xie},
journal= {arXiv preprint arXiv:2502.05878},
year = {2025}
}
备注
11 pages, 4 figures