从幻觉到事实:通过精选知识图谱提升语言模型
计算与语言
2024-12-30 v1 人工智能
摘要
幻觉现象持续存在于语言模型中,削弱了其在各种自然语言处理任务中所展现的效能与可信度,因而模型生成的响应可能偏离事实准确性或连贯性。本文通过整合精选知识图谱(KG)三元组,将语言模型响应锚定于实证数据,从而解决语言模型幻觉问题。我们精选并整合针对特定语境的相关 KG 三元组,以提升事实依托性与输入对齐性。我们的贡献在于构建来自 Wikipedia 的全面 KG 库,并优化数据以聚焦模型训练中必需的关键信息。通过赋予语言模型对该精选知识的访问权限,我们旨在生成既具语言流畅性又深植于事实准确性与语境相关性的响应。这种整合通过提供稳健的信息基础来缓解幻觉现象,使模型能够在响应生成时调用丰富的事实数据。实验评估表明,多种方法均能有效降低幻觉性响应,凸显了精选知识图谱在提升语言模型输出可靠性与可信度方面的作用。
引用
@article{arxiv.2412.18672,
title = {From Hallucinations to Facts: Enhancing Language Models with Curated Knowledge Graphs},
author = {Ratnesh Kumar Joshi and Sagnik Sengupta and Asif Ekbal},
journal= {arXiv preprint arXiv:2412.18672},
year = {2024}
}
备注
14 Pages, 5 Tables, 2 figures