用于从金融新闻序列预测市场影响的上下文感知语言模型
计算工程、金融与科学
2025-09-17 v1 计算与语言
计算金融
摘要
金融新闻在金融市场的消息扩散过程中扮演着关键角色，并且是已知的股价驱动因素。然而，每篇新闻文章中的信息并不一定是自包含的，通常需要更广泛地理解历史新闻报道才能准确解读。此外，识别并整合最相关的上下文信息也带来了重大挑战。在这项工作中，我们探讨了历史上下文对于大语言模型理解金融新闻市场影响能力的价值。我们发现，历史上下文在不同方法和时间跨度上均能带来一致且显著的性能提升。为此，我们提出了一种高效且有效的上下文化方法，该方法使用一个大语言模型处理主要文章，同时使用一个小语言模型将历史上下文编码为简洁的摘要嵌入，然后将这些嵌入与大模型的表示空间对齐。我们通过多项定性和定量的可解释性测试探索了模型的行为，并揭示了关于上下文化价值的见解。最后，我们证明了模型预测中历史上下文的价值具有现实世界应用，可转化为模拟投资绩效的显著提升。
引用
@article{arxiv.2509.12519,
title = {Context-Aware Language Models for Forecasting Market Impact from Sequences of Financial News},
author = {Ross Koval and Nicholas Andrews and Xifeng Yan},
journal= {arXiv preprint arXiv:2509.12519},
year = {2025}
}
备注
Preprint