开放世界假设下LLM的‘幻觉’不可避免
计算与语言
2025-10-08 v1 人工智能
摘要
大型语言模型（LLMs）表现出惊人的语言能力，但也会产生不准确或虚构的输出，常称为‘幻觉’。工程方法通常将幻觉视为需要最小化的缺陷，而形式分析则认为其在理论上是不可避免的。然而，当考虑实现人工通用智能（AGI）所需的条件时，两者的观点仍不完整。本文重新框架化‘幻觉’，将其视为概括问题的一种表现。在封闭世界假设下，其中训练和测试分布是一致的，幻觉可能被缓解。在开放世界假设下，环境是无界的，幻觉则不可避免。这篇论文进一步发展了幻觉的分类，区分了可能被纠正的幻觉案例与在开放世界条件下看似不可避免的幻觉案例。基于此，本文建议‘幻觉’不仅应作为工程缺陷加以处理，还应作为被容忍并与人类智力兼容的结构性特征加以考虑。
引用
@article{arxiv.2510.05116,
title = {Hallucination is Inevitable for LLMs with the Open World Assumption},
author = {Bowen Xu},
journal= {arXiv preprint arXiv:2510.05116},
year = {2025}
}