创新：几乎完整刻画幻觉的性质
机器学习
2026-05-27 v1 人工智能
信息论
math.IT
摘要
幻觉是大语言模型(LLM)的核心局限性，旨在理解和缓解此问题已付出大量努力。为此，Kalai 和 Vempala(2024 年 STOC)引入了概率框架来形式化校准与幻觉，并展示了校准的 LLM 在高概率下大约以“缺失质量”的速率进行幻觉。“缺失质量”是衡量训练数据相对于其来源不完整性的度量。这引出两个根本性问题：(i) 校准 LLM 的哪个属性使得幻觉不可避免？(ii) 放弃校准是否可以避免幻觉？我们通过引入一种我们称为“创新”的简单属性来回答这些问题，该属性衡量模型产生超出训练数据输出的倾向。我们展示了创新是 Kalai 和 Vempala 确定的幻觉条件所暗示的，并且进一步表明它几乎是幻觉的完整刻画：幻觉意味着创新，反之亦然，创新在高概率下意味着幻觉。我们还提供了基于“创新率”的幻觉速率下界，并通过将创新率重新关联到缺失质量，我们获得了基于缺失质量的新的幻觉速率下界，这扩展了 Kalai 和 Vempala 的结果。
引用
@article{arxiv.2605.26808,
title = {Innovation: An Almost Characterization of Hallucination},
author = {Nishant P. Das and Piyush Srivastava},
journal= {arXiv preprint arXiv:2605.26808},
year = {2026}
}