KAG-Thinker：基于知识增强生成的 LLM 交互式思考与深度推理
计算与语言
2025-07-01 v3 人工智能
摘要
在本文中，我们介绍了 KAG-Thinker，它将 KAG 升级为一个由专用轻量参数大语言模型（LLM）驱动的多轮交互式思考与深度推理框架。我们的方法构建了一个用于解决复杂问题的结构化思考过程，增强了 LLM 在特定领域知识库（KB）问答（Q&A）任务中推理过程的逻辑连贯性和上下文一致性。遵循 KAG 的 \textbf{Logical Form} 引导的检索与推理技术路线，该框架首先通过 \textbf{breadth decomposition} 将复杂问题分解为可独立求解的子问题（也称为逻辑形式）。每个逻辑形式以两种等价形式表示——自然语言和逻辑函数——随后被分类为知识检索或推理分析任务。这些任务之间的依赖关系和参数传递通过逻辑函数接口进行显式建模。在求解过程中，Retrieval 函数执行检索任务，检索指定知识单元的单跳结构化与非结构化信息。而 Math 和 Deduce 函数用于执行推理分析任务。其次，值得注意的是，在知识检索子问题任务中，LLM 和外部知识源被视为等价的知识库。我们使用 \textbf{knowledge boundary} 模块通过置信度校准和反思推理等自我调节机制来确定最佳来源，并使用 \textbf{depth solving} 模块来增强知识获取的全面性……
引用
@article{arxiv.2506.17728,
title = {KAG-Thinker: Interactive Thinking and Deep Reasoning in LLMs via Knowledge-Augmented Generation},
author = {Dalong Zhang and Jun Xu and Jun Zhou and Lei Liang and Lin Yuan and Ling Zhong and Mengshu Sun and Peilong Zhao and QiWei Wang and Xiaorui Wang and Xinkai Du and YangYang Hou and Yu Ao and ZhaoYang Wang and Zhengke Gui and ZhiYing Yi and Zhongpu Bo and Haofen Wang and Huajun Chen},
journal= {arXiv preprint arXiv:2506.17728},
year = {2025}
}