中文

利用自反思大语言模型学习生成可解释的股票预测

机器学习 2024-03-01 v3 计算与语言 统计金融

摘要

对于传统的非生成式深度学习模型而言,解释股票预测通常是一项困难的任务,其解释仅限于可视化重要文本上的注意力权重。如今,大语言模型(LLMs)为这一问题提供了解决方案,因为它们具备为其决策过程生成人类可读解释的已知能力。然而,股票预测任务对LLMs来说仍然具有挑战性,因为它需要权衡混乱的社会文本对股票价格的不同影响。随着解释组件的引入,问题变得更加困难,这要求LLMs口头解释为什么某些因素比其他因素更重要。另一方面,为了针对此类任务微调LLMs,需要为训练集中每一次股票变动提供专家标注的解释样本,这既昂贵又不切实际地难以扩展。为解决这些问题,我们提出了总结-解释-预测(SEP)框架,该框架利用自反思智能体和近端策略优化(PPO),让LLM以完全自主的方式自学如何生成可解释的股票预测。反思智能体通过自我推理学习如何解释过去的股票变动,而PPO训练器则训练模型从输入文本中生成最可能的解释。PPO训练器的训练样本也是在反思过程中生成的响应,这消除了对人工标注者的需求。使用我们的SEP框架,我们微调了一个LLM,该模型在股票分类任务的预测准确率和马修斯相关系数上均能超越传统的深度学习和LLM方法。为了证明我们框架的泛化能力,我们进一步在投资组合构建任务上进行了测试,并通过各种投资组合指标展示了其有效性。

关键词

引用

@article{arxiv.2402.03659,
  title  = {Learning to Generate Explainable Stock Predictions using Self-Reflective Large Language Models},
  author = {Kelvin J. L. Koa and Yunshan Ma and Ritchie Ng and Tat-Seng Chua},
  journal= {arXiv preprint arXiv:2402.03659},
  year   = {2024}
}

备注

WWW 2024