基于奖励引导的树搜寻增强大语言模型用于知识图谱问答
计算与语言
2025-05-20 v1 人工智能
摘要
最近，大语言模型 (LLMs) 在知识图谱问答 (KGQA) 任务中展现出惊人的性能，这类任务旨�基于知识图谱 (KG) 为自然语言问题查找答案。现有的 LLM-based KGQA 方法通常遵循图检索增强生成 (GraphRAG) 范式，首先从大规模 KG 中检索推理路径，然后基于这些路径生成答案。然而，这些方法强调在 KG 中探索新的最优推理路径，同时忽略历史推理路径的利用，可能导致次优推理路径此外，问题中复杂的语义可能导致检索到不准确的推理路径。为此，本文提出一种新颖且无需训练的 KGQA 框架，称为基于奖励引导的图树搜寻 (Reward-guided Tree Search on Graph, RTSoG)。RTSoG 将原始问题分解为一系列更简单且明确定义的子问题以处理复杂语义。随后，引入受奖励模型引导的自我批判蒙特卡洛树搜寻 (Self-Critic Monte Carlo Tree Search, SC-MCTS) 以检索带权重的推理路径作为上下文知识。最后，根据权重对带权重的推理路径进行堆叠，以生成最终答案。广泛实验表明，RTSoG 的有效性。显著地，在 GrailQA 和 WebQSP 上的 SOTA 方法分别实现了 8.7% 和 7.0% 的性能提升。
引用
@article{arxiv.2505.12476,
title = {Enhancing Large Language Models with Reward-guided Tree Search for Knowledge Graph Question and Answering},
author = {Xiao Long and Liansheng Zhuang and Chen Shen and Shaotian Yan and Yifei Li and Shafei Wang},
journal= {arXiv preprint arXiv:2505.12476},
year = {2025}
}