HalluciNot：通过上下文与常识验证检测幻觉
计算与语言
2025-04-10 v1 人工智能
摘要
本文提出了一个用于检测大型语言模型（LLM）输出中幻觉的综合系统，专用于企业环境。我们提出了一种针对企业应用中幻觉的LLM响应新型分类法，将其分为基于上下文的幻觉、常识幻觉、企业特定幻觉和无害陈述。我们的幻觉检测模型HDM-2会针对上下文和一般已知事实（常识）来验证LLM的响应。它提供幻觉得分和词级标注，实现对问题内容的精确识别。为评估基于上下文和常识幻觉，我们引入了一个新数据集HDMBench。实验结果表明，HDM-2在RagTruth、TruthfulQA和HDMBench数据集上超越了现有方法。这一工作解决了企业部署中的特定挑战，包括计算效率、领域专业性和细粒度错误识别。我们的评估数据集、模型权重和推理代码均公开可用。
引用
@article{arxiv.2504.07069,
title = {HalluciNot: Hallucination Detection Through Context and Common Knowledge Verification},
author = {Bibek Paudel and Alexander Lyzhov and Preetam Joshi and Puneet Anand},
journal= {arXiv preprint arXiv:2504.07069},
year = {2025}
}