缓解大语言模型中的实体级幻觉问题
计算与语言
2024-07-23 v2 信息检索
摘要
大语言模型 (LLM) 的出现彻底改变了用户获取信息的方式，由传统搜索引擎转向直接与 LLM 进行问答交互。然而，LLM 的广泛采用揭示了一种称为幻觉的显著挑战，即 LLM 生成连贯但事实不准确的响应。这种幻觉现象导致用户对基于 LLM 的信息检索系统产生不信任。为应对这一挑战，本文提出了一种基于 hallucination 检测的动态检索增强方法 (DRAD)，作为检测和缓解 LLM 幻觉的新方法。DRAD 在传统检索增强基础上，通过基于实时 hallucination 检测动态调整检索过程进行改进。它包含两个主要组件：用于在不依赖外部模型的情况下识别潜在幻觉的实时幻觉检测 (RHD)，以及基于外部知识进行自我纠正 (SEK)。实验结果表明，DRAD 在检测和缓解 LLM 中的幻觉方面表现出色。我们的所有代码和数据均已开源于 https://github.com/oneal2000/EntityHallucination。
引用
@article{arxiv.2407.09417,
title = {Mitigating Entity-Level Hallucination in Large Language Models},
author = {Weihang Su and Yichen Tang and Qingyao Ai and Changyue Wang and Zhijing Wu and Yiqun Liu},
journal= {arXiv preprint arXiv:2407.09417},
year = {2024}
}