幻觉不可避免：大型语言模型的固有局限
计算与语言
2025-02-14 v2 人工智能
机器学习
摘要
幻觉已被广泛认为是大型语言模型（LLM）的一个显著缺陷。已有许多工作试图减少幻觉的程度。迄今为止，这些努力大多是经验性的，无法回答根本问题：幻觉能否被完全消除？在本文中，我们对问题进行了形式化，并表明消除LLM中的幻觉是不可能的。具体来说，我们定义了一个形式世界，其中幻觉被定义为可计算LLM与可计算真实函数之间的不一致性。利用学习理论的结果，我们表明LLM无法学习所有可计算函数，因此如果用作通用问题求解器，将不可避免地产生幻觉。由于形式世界是真实世界的一部分，而真实世界要复杂得多，因此真实世界的LLM也必然会产生幻觉。此外，对于受可证明时间复杂度约束的真实世界LLM，我们描述了易于产生幻觉的任务，并通过实验验证了我们的主张。最后，利用形式世界框架，我们讨论了现有幻觉缓解措施的可能机制和效果，以及对LLM安全部署的实际影响。
引用
@article{arxiv.2401.11817,
title = {Hallucination is Inevitable: An Innate Limitation of Large Language Models},
author = {Ziwei Xu and Sanjay Jain and Mohan Kankanhalli},
journal= {arXiv preprint arXiv:2401.11817},
year = {2025}
}