超越文本语境：结构图编码与自适应空间对齐以缓解 LLM 的幻觉
计算与语言
2025-09-29 v1 人工智能
摘要
目前，解决大型语言模型(LLMs)幻觉问题的主要方法是引入知识图谱(KGs)。然而，LLMs通常将 KGs 视为纯文本，仅提取语义信息，限制了其利用 KGs 中关键结构方面的能力。另一个挑战是 KGs 编码器与 LLMs 文本嵌入空间之间的鸿沟，这阻碍了结构化知识的有效集成。为克服这些障碍，我们提出SSKG-LLM，一种创新的模型架构，旨在高效地将 KGs 的结构和语义信息整合到 LLMs 的推理过程中。SSKG-LLM包含知识图谱检索(KGR)模块和知识图谱编码(KGE)模块，以保留语义的同时利用结构。随后，引入知识图谱适应(KGA)模块，以使 LLMs 能够理解 KGs 嵌入。我们进行了大量实验并提供详细分析，以探索将 KGs 的结构信息纳入 LLMs 可以如何增强事实推理能力。我们的代码已发布于https://github.com/yfangZhang/SSKG-LLM。
引用
@article{arxiv.2509.22251,
title = {Beyond Textual Context: Structural Graph Encoding with Adaptive Space Alignment to alleviate the hallucination of LLMs},
author = {Yifang Zhang and Pengfei Duan and Yiwen Yang and Shengwu Xiong},
journal= {arXiv preprint arXiv:2509.22251},
year = {2025}
}
备注
11 pages, 5 figures