KG-Hopper:通过强化学习为紧凑型开源LLM提供知识图谱推理能力
计算与语言
2026-04-15 v4 人工智能
摘要
大型语言模型(LLMs)展现出惊人的自然语言能力,但在知识密集型推理任务中常常力不及心。利用结构化知识图谱(KGs)的知识库问答(KBQA)正是这一挑战的典型例子,因为需要准确地进行多跳推理。现有方法通常通过预定义的管道引导顺序推理步骤,限制了灵活性,由于每一步的孤立推理导致错误级联。为克服这些限制,我们提出KG-Hopper,一种新的强化学习(RL)框架,赋予紧凑型开源LLM进行集成化多跳KG推理的能力。我们不进行逐步推理,而是训练一个推理LLM,将整个KG遍历和决策过程嵌入统一的"思考"阶段,实现对跨步骤依赖和动态路径探索的全局推理,包括回溯。基于八个KG推理基准测试,实验结果表明,KG-Hopper基于7B参数的LLM, consistently 优于更大的多步骤系统(最高可达70B),并与专有模型如GPT-3.5-Turbo和GPT-4o-mini保持竞争力,同时保持紧凑、开源和数据高效。代码已公开:https://github.com/Wangshuaiia/KG-Hopper。
引用
@article{arxiv.2603.21440,
title = {KG-Hopper: Empowering Compact Open LLMs with Knowledge Graph Reasoning via Reinforcement Learning},
author = {Shuai Wang and Yinan Yu},
journal= {arXiv preprint arXiv:2603.21440},
year = {2026}
}
备注
Accepted to IJCNN 2026