利用 NTPs 提升视觉语言模型幻觉检测的效率
计算机视觉与模式识别
2025-11-17 v2 计算与语言
机器学习
摘要
视觉语言模型（VLM）的幻觉现象——即视觉内容与生成文本之间的错位——会削弱 VLM 的可靠性。常用的幻觉检测方法是利用相同 VLM 或其他 VLM 来评估生成输出，但此过程计算密集，增加模型延迟。本文探索了一种基于 VLM 下一词概率（NTPs）的轻量级即时幻觉检测方法。NTPs 提供了对模型不确定性的直接量化。我们假设，高不确定性（即低 NTP 值）与幻觉现象密切相关。为验证此假设，我们构建了一个包含 1,400 条人工标注语句子的数据集，这些语句子均来自 VLM 生成的内容，并标记为幻觉或非幻觉。我们使用该数据集测试了基于 NTP 的轻量级方法。结果表明，NTP 特征是幻觉预测的有价值特征，使轻量级机器学习模型能够实现与强大 VLM 相当的性能。此外，通过将 NTPs 与语言 NTPs（通过仅将生成文本重新输入 VLM 计算得出）进行增强，可提升幻觉检测性能。最后，将 VLM 幻觉预测得分整合到 NTP 基础模型中，比仅使用 VLM 或 NTPs 单独使用时表现更佳。我们希望本研究为简单、轻量级的解决方案奠定基础，以提升 VLM 的可靠性。
引用
@article{arxiv.2509.20379,
title = {Leveraging NTPs for Efficient Hallucination Detection in VLMs},
author = {Ofir Azachi and Kfir Eliyahu and Eyal El Ani and Rom Himelstein and Roi Reichart and Yuval Pinter and Nitay Calderon},
journal= {arXiv preprint arXiv:2509.20379},
year = {2025}
}
备注
Accepted to The First Workshop on Confabulation, Hallucinations, & Overgeneration in Multilingual & Precision-critical Setting - AACL-IJCNLP2025