快速思考-图:大语言模型在知识图谱上的更宽、更深和更快的推理
人工智能
2025-01-27 v1 计算与语言
机器学习
社会与信息网络
摘要
图形检索增强生成(GRAG)是一种新型范例,通过整合知识图谱(KGs)等图信息到大规模语言模型(LLMs)中,以缓解幻觉问题。然而,现有GRAG仍存在局限性:1)简单范例因仅捕获狭窄和浅层的KGs相关性而难以处理复杂问题;2)与KGs强耦合的方法在图密集时计算成本和耗时较高。本文提出了快速思考-图(FastToG),一种 innovative 使LLMs在KGs中“按社区”思考的范例。为此,FastToG采用社区检测以实现更深层的相关性捕获,并通过粗粒度和细粒度社区修剪实现更快检索。此外,我们还开发了两种社区转文本方法,将社区的图结构转换为文本形式,以便LLMs更好地理解。实验结果表明,FastToG有效性显著,展示了比以往工作更高的准确率、更快的推理速度和更好的可解释性。
引用
@article{arxiv.2501.14300,
title = {Fast Think-on-Graph: Wider, Deeper and Faster Reasoning of Large Language Model on Knowledge Graph},
author = {Xujian Liang and Zhaoquan Gu},
journal= {arXiv preprint arXiv:2501.14300},
year = {2025}
}