中文

MCTS-KBQA:面向知识库问答的蒙特卡洛树搜索

计算与语言 2025-02-20 v1 人工智能

摘要

本研究探讨了如何利用蒙特卡洛树搜索(MCTS)增强大语言模型(LLM)在知识库问答(KBQA)中的推理能力。基于语义解析的 KBQA 方法尤为具有挑战性,因为这些方法需要从知识库中定位元素并生成逻辑形式,不仅需要大量标注数据,还需要强大的推理能力。尽管近期将 LLM 作为智能体的方法展示了可观的潜力,但这些研究本质上受限于其线性决策过程。为了解决这一局限性,我们提出了一种基于 MCTS 的框架,通过树搜索方法增强 LLM 的推理能力。我们设计了一种精心构思的逐步奖励机制,仅需直接提示开源指令 LLM,而无需额外微调。实验结果表明,我们的方法显著优于线性决策方法,尤其是在低资源场景下。此外,我们利用远程监督为现有的 question-SPARQL 数据集标注了中间推理过程,从而为 KBQA 社区贡献了新的数据资源。在扩展数据集上的实验结果表明,我们的方法在使用显著较少训练数据的情况下,取得了与全监督模型相当的性能。

关键词

引用

@article{arxiv.2502.13428,
  title  = {MCTS-KBQA: Monte Carlo Tree Search for Knowledge Base Question Answering},
  author = {Guanming Xiong and Haochen Li and Wen Zhao},
  journal= {arXiv preprint arXiv:2502.13428},
  year   = {2025}
}