RETuning:利用大型语言模型升级股票走势预测的推理时扩展
计算与语言
2025-10-27 v1
摘要
最近,大型语言模型在数学和编码任务上展示了卓越的推理能力。然而,它们在金融任务——尤其是最基本的股票走势预测任务——中的应用仍未得到充分探索。我们研究了一个三分类问题(上涨、持有、下跌),并通过分析现有的推理响应观察到:(1) 大型语言模型遵循分析师的意见,而不是表现出系统、独立的分析逻辑。(2) 大型语言模型列出不同来源的摘要,而没有权衡对立的证据,然而这种反证据对于可靠的预测至关重要。这表明模型没有很好地利用其推理能力来完成任务。为了解决这个问题,我们提出了反思性证据调整,一种在强化学习之前的冷启动方法,以增强预测能力。在生成思维链的同时,RETuning 鼓励从不同的信息源动态构建分析框架,基于该框架(而不是基于上下文观点)组织和评分价格上涨或下跌的证据,并最终进行反思以得出预测。这种方法最大限度地使模型与其学到的分析框架对齐,确保独立的逻辑推理并减少来自上下文的过度影响。我们还构建了一个大规模数据集,涵盖 2024 年全年 5,123 只 A 股股票,具有长上下文(32K 个 token)和超过 200K 个样本。除了价格和新闻,它还包含分析师意见、量化报告、基本面数据、宏观经济指标和类似股票。实验表明,RETuning 成功解锁了模型在金融领域的推理能力。即使在 6 个月后或对分布外股票,推理时扩展仍然有效,因为模型获得了关于股票走势预测的有价值的见解。
引用
@article{arxiv.2510.21604,
title = {RETuning: Upgrading Inference-Time Scaling for Stock Movement Prediction with Large Language Models},
author = {Xueyuan Lin and Cehao Yang and Ye Ma and Ming Li and Rongjunchen Zhang and Yang Ni and Xiaojun Wu and Chengjin Xu and Jian Guo and Hui Xiong},
journal= {arXiv preprint arXiv:2510.21604},
year = {2025}
}