Provenance：检索增强型 LLM 生成输出的轻量事实核查工具
计算与语言
2024-11-25 v1
摘要
我们提出一种轻量级方法，用于检测检索增强生成（RAG）的非事实输出。给定上下文与假设输出，我们计算事实得分，可阈值化以获得二元决策，用于核查基于 LLM 的问答、摘要或其他系统的结果。不同于依赖 LLM 的事实核查工具，我们使用紧凑开源自然语言推理（NLI）模型，构建低延迟低成本的运行时解决方案，无需 LLM 微调。该方法还支持对幻觉进行下游缓解与纠正，通过追溯至特定上下文块。我们的实验显示，在广泛相关开源数据集上实现高 AUC，表明该方法对 RAG 输出事实核查有效。
引用
@article{arxiv.2411.01022,
title = {Provenance: A Light-weight Fact-checker for Retrieval Augmented LLM Generation Output},
author = {Hithesh Sankararaman and Mohammed Nasheed Yasin and Tanner Sorensen and Alessandro Di Bari and Andreas Stolcke},
journal= {arXiv preprint arXiv:2411.01022},
year = {2024}
}
备注
To appear in Proceedings of EMNLP 2024 Industry Track