联合知识库补全与问答通过结合大语言模型和小语言模型
人工智能
2026-04-08 v1
摘要
知识库(KB)在各种应用中扮演关键角色。作为两种代表性的知识库相关任务,知识库补全(KBC)和知识库问答(KBQA)密切相关且本质上互补。因此,解决联合KBC和KBQA任务将有助于使两者相互增强。然而,现有研究通常依赖小语言模型(SLM)来联合增强它们,而忽略了大语言模型(LLM)的强大推理能力。在本文中,通过结合LLM和SLM的优势,我们提出了一种新颖框架JCQL,可以使这两个任务以迭代方式相互增强。为了使KBC增强KBQA,我们将SLM训练的KBC模型作为智能体的动作纳入LLM智能体驱动的KBQA模型的推理路径中,缓解了LLM在KBQA中的幻觉和高计算成本问题。为了使KBQA增强KBC,我们利用KBQA的推理路径作为补充训练数据来增量微调KBC模型,提高了SLM在KBC中的能力。在两个公开基准数据集上的广泛实验表明,JCQL在两个任务KBC和KBQA上均超越了所有基线。
引用
@article{arxiv.2604.05875,
title = {Joint Knowledge Base Completion and Question Answering by Combining Large Language Models and Small Language Models},
author = {Yinan Liu and Dongying Lin and Sigang Luo and Xiaochun Yang and Bin Wang},
journal= {arXiv preprint arXiv:2604.05875},
year = {2026}
}
备注
20 pages, 11 figures