基于层级相关性传播的 RAG 幻觉检测方法 LRP4RAG
计算与语言
2025-06-30 v3 人工智能
摘要
检索增强生成 (Retrieval-Augmented Generation, RAG) 已成为缓解大语言模型 (LLM) 幻觉产生的主要技术之一。然而，Incomplete knowledge extraction (不完整的知识抽取) 和不足的理解仍可能误导 LLM 生成与之无关甚至相矛盾的响应，这意味着 RAG 中的幻觉仍然存在。在本文中，我们提出了 LRP4RAG 方法，该方法基于层级相关性传播 (Layer-wise Relevance Propagation, LRP) 算法用于检测 RAG 中的幻觉。具体而言，我们首先利用 LRP 计算 RAG 生成器输入与输出之间的相关性。随后对相关性矩阵进行进一步的抽取和重抽样处理。经处理后的相关性数据将输入到多个分类器中，以确定输出是否包含幻觉。据我们所知，这是首次将 LRP 应用于检测 RAG 幻觉，广泛的实验结果表明 LRP4RAG 在现有基线方法上均表现出色。
引用
@article{arxiv.2408.15533,
title = {LRP4RAG: Detecting Hallucinations in Retrieval-Augmented Generation via Layer-wise Relevance Propagation},
author = {Haichuan Hu and Congqing He and Xiaochen Xie and Quanjun Zhang},
journal= {arXiv preprint arXiv:2408.15533},
year = {2025}
}