大型语言模型中幻觉的综合分类学

大型语言模型（LLM）已彻底革新了自然语言处理，但其关于幻觉的倾向——生成看似合理但事实不正确或捏造内容——仍是一个关键挑战。本报告提供了 LLM 幻觉的综合分类学，从形式化定义和理论框架开始，认为其在可计算的 LLM 中是不可避免的，无论是架构还是训练方式。它探讨了核心区别，将内在的（违反输入上下文）与外在的（与训练数据或现实不一致）区分开来，以及事实正确性（绝对正确性）与忠实性（遵循输入）。随后，详述了具体表现，包括事实错误、情境和逻辑不一致、时间错位、伦理违规以及跨领域代码生成和多模态应用中的任务特定幻觉。它分析了 underlying 原因，将其归类为数据相关问题、模型相关因素和提示相关影响。此外，报告审查了影响幻觉感知的认知和人类因素，概述了用于检测的评估基准和指标，以及架构和系统缓解策略。最后，本报告介绍了用于监控 LLM 发布和性能的 web 基于资源。该报告强调了 LLM 幻觉的复杂、多面的本质，并强调，鉴于其理论不可避免性，未来的工作必须集中注意力在稳健的检测、缓解和持续的人类监督，以实现在关键应用中的负责任和可靠部署。