重新思考幻觉：正确性、一致性与提示多重性
机器学习
2026-02-03 v1 人工智能
摘要
大型语言模型(LLM)因生成虚假或误导性输出而被称为“幻觉”。幻觉会带来各种危害，从侵蚀信任到广泛传播错误信息。然而，现有的幻觉评估仅关注正确性，并且常常忽略一致性，而一致性对于区分和解决这些危害是必要的。为弥补这一差距，我们引入了提示多重性，这是一个用于量化LLM评估中一致性的框架。我们的分析揭示了显著的多重性（在Med-HALT等基准测试中不一致性超过50%），这表明与幻觉相关的危害一直被严重误解。此外，我们研究了一致性在幻觉检测和缓解中的作用。我们发现：(a)检测技术检测的是一致性，而非正确性；(b)像RAG这样的缓解技术虽然有益，但可能引入额外的不一致性。通过将提示多重性整合到幻觉评估中，我们提供了一个改进的潜在危害框架，并揭示了当前检测和缓解策略中的关键局限性。
引用
@article{arxiv.2602.00723,
title = {Rethinking Hallucinations: Correctness, Consistency, and Prompt Multiplicity},
author = {Prakhar Ganesh and Reza Shokri and Golnoosh Farnadi},
journal= {arXiv preprint arXiv:2602.00723},
year = {2026}
}
备注
To appear at EACL 2026