利用图结构检测大型语言模型中的幻觉
计算与语言
2024-07-08 v1 机器学习
摘要
大型语言模型被广泛应用于客户支持、内容创作、教育辅导和提供财务指导等一系列任务中。然而，一个众所周知的缺点是它们倾向于产生幻觉。这损害了这些模型所提供信息的可信度，影响了决策和用户信心。我们提出了一种通过观察潜在空间结构并寻找幻觉与非幻觉生成之间的关联来检测幻觉的方法。我们创建了一个图结构，将嵌入空间中位置相近的生成连接起来。此外，我们采用图注意力网络，该网络利用消息传递聚合来自相邻节点的信息，并根据相关性为每个邻居分配不同程度的重要性。我们的研究结果表明：1）潜在空间中存在一种区分幻觉与非幻觉生成的结构；2）图注意力网络能够学习这种结构并将其泛化到未见过的生成中；3）结合对比学习增强了我们方法的鲁棒性。在基于证据的基准上进行评估时，我们的模型在无法使用基于搜索的方法的情况下表现出了相似的性能。
引用
@article{arxiv.2407.04485,
title = {Leveraging Graph Structures to Detect Hallucinations in Large Language Models},
author = {Noa Nonkes and Sergei Agaronian and Evangelos Kanoulas and Roxana Petcu},
journal= {arXiv preprint arXiv:2407.04485},
year = {2024}
}