通过基于知识图谱的自主重构缓解大语言模型幻觉
计算与语言
2023-11-23 v1
摘要
将知识图谱中的事实知识融入被视为缓解大语言模型（LLMs）幻觉的一种有前景的方法。现有方法通常仅利用用户输入查询知识图谱，因而未能解决 LLMs 在其推理过程中生成的事实幻觉。为解决此问题，本文提出基于知识图谱的重构（KGR），一种将 LLMs 与 KGs 结合的新框架，通过基于 KGs 中存储的事实知识对 LLMs 的初始草稿回复进行重构，从而在推理过程中缓解事实幻觉。具体而言，KGR 利用 LLMs 提取、选择、验证和重构模型生成回复中的事实陈述，实现了无需任何额外人工操作的自主知识验证与精炼流程。实验表明，KGR 能显著提升 LLMs 在事实问答基准上的表现，尤其在涉及复杂推理过程时，这证明了 KGR 在缓解幻觉和增强 LLMs 可靠性方面的必要性与有效性。
引用
@article{arxiv.2311.13314,
title = {Mitigating Large Language Model Hallucinations via Autonomous Knowledge Graph-based Retrofitting},
author = {Xinyan Guan and Yanjiang Liu and Hongyu Lin and Yaojie Lu and Ben He and Xianpei Han and Le Sun},
journal= {arXiv preprint arXiv:2311.13314},
year = {2023}
}