图约束推理：基于大语言模型的可靠知识图谱推理

大语言模型（LLM）已展现出惊人的推理能力，但仍因知识缺口和幻觉问题在可靠推理方面受限。为此，知识图谱（KG）被用于通过其结构化知识来增强LLM推理。然而，现有KG增强方法（要么基于检索，要么基于智能体）在精准检索知识和大规模遍历KG方面存在困难。本文引入图约束推理（GCR），一种新型框架，将KG中的结构化知识与LLM中的非结构化推理相结合。为消除幻觉，GCR通过KG-Trie（一种基于Trie的索引，编码KG推理路径）将KG结构集成到LLM解码过程，从而确保基于KG的可靠推理。KG-Trie约束解码过程，使LLM能够直接在图上进行推理并生成基于KG的可靠推理路径。此外，GCR利用轻量级KG专用LLM进行图约束推理，同时利用强大的通用LLM对多条推理路径进行归纳推理，从而实现准确推理且无推理幻觉。在多个KGQA基准测试上的广泛实验表明，GCR实现了最先进的性能，并在无需额外训练的情况下对未见KG展现出强大的零样本可迁移性。