关系探测：面向金融预测的语言模型到图适配
计算与语言
2026-04-14 v1
摘要
语言模型可用于识别文本中金融实体之间的关系。然而，尽管存在结构化输出机制，基于提示的流水线仍然会产生自回归解码成本，并将图构建与下游优化分离开来。我们提出了\emph{关系探测}，它用关系头替换标准的语言模型头，该关系头直接从语言模型隐藏状态中诱导出关系图，并与用于股票趋势预测的下游任务模型联合训练。这种方法既能学习语义表示，又能保持所诱导关系图的严格结构。它使语言模型的输出能够超越文本，从而可以将其重塑为下游模型的任务特定格式。为了提高可重复性，我们提供了小语言模型(SLM)的操作性定义：可以在指定的批大小和序列长度设置下，在单个 24GB GPU 上进行端到端微调的模型。实验使用 Qwen3 骨干网络(0.6B/1.7B/4B)作为上游 SLM，并与共现基线进行比较。关系探测在具有竞争力的推理成本下取得了持续的性能提升。
引用
@article{arxiv.2604.10212,
title = {Relational Probing: LM-to-Graph Adaptation for Financial Prediction},
author = {Yingjie Niu and Changhong Jin and Rian Dolphin and Ruihai Dong},
journal= {arXiv preprint arXiv:2604.10212},
year = {2026}
}
备注
Accpeted by The 2nd Workskop on Advances in Financial AI Workshop: Towards Agentic and Responsible Systems at ICLR 2026