ShED-HD：基于香农熵分布的轻量级幻觉检测框架
计算与语言
2025-06-17 v2 人工智能
摘要
大型语言模型(LLM)在广泛的NLP任务中展现出惊人的能力,但其倾向于生成幻觉现象——看似合理却事实错误的内容——在高风险领域造成严重挑战。现有幻觉检测方法要么需要多次推理推断的计算成本,要么在单次推理方法中牺牲准确率以换取效率, neither approach is ideal for resource-constrained environments such as edge devices. 我们提出了香农熵分布幻觉检测器(ShED-HD),一种新颖的幻觉检测框架,通过基于轻量级双向LSTM架构的单头注意力机制对序列级熵模式进行分类,弥合了这一鸿沟。与前述方法不同,ShED-HD能够高效地检测整个输出序列中 distinctive 不确定性模式,保持上下文感知。通过在三个数据集(BioASQ、TriviaQA和Jeopardy Questions)上的深入评估,我们展示了ShED-HD在分布外设置下显著优于其他计算效率方法,在分布内设置下实现了相当水平的性能。ShED-HD实现了低成本、准确且可泛化的幻觉检测,在可靠AI功能至关重要的资源受限环境中,提升了LLM生成内容的可信度。
引用
@article{arxiv.2503.18242,
title = {ShED-HD: A Shannon Entropy Distribution Framework for Lightweight Hallucination Detection on Edge Devices},
author = {Aneesh Vathul and Daniel Lee and Sheryl Chen and Arthi Tasmia},
journal= {arXiv preprint arXiv:2503.18242},
year = {2025}
}