KBQA-o1:基于蒙特卡洦树搜索的智能体化知识库问答
计算与语言
2025-06-02 v4 人工智能
数据库
摘要
知识库问答(KBQA)旨在利用大规模结构化知识库(KB)回答自然语言问题。尽管大型语言模型(LLM)取得了进展,KBQA 仍面临 KB 感知弱、效果与效率之间不平衡以及高度依赖标注数据等挑战。为此,我们提出了 KBQA-o1,这是一种结合蒙特卡洦树搜索(MCTS)的新型智能体化 KBQA 方法。它引入基于 ReAct 的智能体过程,用于在 KB 环境中进行分步逻辑形式生成。此外,它运用 MCTS——一种由策略模型和奖励模型驱动的启发式搜索方法——来平衡智能体探索的性能与搜索空间。通过启发式探索,KBQA-o1 为后续增量微调生成高质量标注。实验结果表明,KBQA-o1 在有限标注数据下优于先前的低资源 KBQA 方法,将 Llama-3.1-8B 模型在 GrailQA 上的 F1 分数提升至78.5%,而上一最优方法(GPT-3.5-turbo)仅为48.5%。我们的代码已公开。
引用
@article{arxiv.2501.18922,
title = {KBQA-o1: Agentic Knowledge Base Question Answering with Monte Carlo Tree Search},
author = {Haoran Luo and Haihong E and Yikai Guo and Qika Lin and Xiaobao Wu and Xinyu Mu and Wenhao Liu and Meina Song and Yifan Zhu and Luu Anh Tuan},
journal= {arXiv preprint arXiv:2501.18922},
year = {2025}
}
备注
Accepted by ICML 2025 main conference