Lyapunov 探针：用于大型基础模型幻觉检测
计算机视觉与模式识别
2026-03-09 v1
摘要
我们通过动力系统稳定性理论的视角来解决大型语言模型 (LLM) 和多模态大型语言模型 (MLLM) 的幻觉检测问题。我们并不将幻觉视为简单的分类任务，而是将其概念化为一个动力系统，其中以事实知识表示为表示空间中稳定平衡点的集合。我们的主要洞见是，幻觉往往出现在稳定区与不稳定区之间的知识-过渡区域的边界。为捕捉这一现象，我们提出了 Lyapunov 探针：一种通过导数基于稳定性约束训练的轻量级网络，以确保在输入扰动下的置信度呈单调衰减。通过进行系统扰动分析并应用两阶段训练过程，这些探针能够可靠地区分稳定的事实区域与不稳定的、易产生幻觉的区域。在多样化数据集和模型上的实验表明，这些方法在现有基线上实现了持续的改进。
关键词
引用
@article{arxiv.2603.06081,
title = {Lyapunov Probes for Hallucination Detection in Large Foundation Models},
author = {Bozhi Luan and Gen Li and Yalan Qin and Jifeng Guo and Yun Zhou and Faguo Wu and Hongwei Zheng and Wenjun Wu and Zhaoxin Fan},
journal= {arXiv preprint arXiv:2603.06081},
year = {2026}
}