沿着路径前进：利用知识图谱路径提高大语言模型的事实性
计算与语言
2026-04-21 v3 人工智能
摘要
我们提出了 fs1 方法，这是一种简单而有效的方法，通过收集来自大规模推理模型的推理痕迹并将其 grounding 在知识图谱（KG）路径上，以提高其事实性。我们对八个经过指令微调的大语言模型（LLM）进行了 3.9K 条事实 grounding 推理痕迹的微调，并严格评估它们在六个复杂开放域问答（QA）基准中的表现，涵盖 23.9K 个问题。我们的结果表明，fs1 微调模型在与经过指令微调的平行抽样方法相比在 pass@16 上持续优于 6-14 个绝对分数。我们的详细分析显示，fs1 在需要在 KG 路径上进行 3 次或以上跳跃的复杂问题以及数值答案类型方面显著优于基线方法。此外，在单次推理中，我们注意到较小的 LLM 显示最大的改进。虽然先前的工作主要在 STEM 领域证明了推理痕迹的有效性，但我们的工作表明，将推理锚定在事实 KG 路径上是转换 LLM 以适应可靠知识密集型任务的关键步骤。
引用
@article{arxiv.2505.11140,
title = {Follow the Path: Reasoning over Knowledge Graph Paths to Improve Large Language Model Factuality},
author = {Mike Zhang and Johannes Bjerva and Russa Biswas},
journal= {arXiv preprint arXiv:2505.11140},
year = {2026}
}
备注
Accepted at ACL Findings 2026