幻觉的统一定义：这是世界模型的问题！
计算与语言
2026-02-04 v2 人工智能
机器学习
机器学习
摘要
尽管自语言模型诞生以来就有诸多尝试来缓解幻觉问题，但即便在当今前沿大语言模型中，幻觉仍然是一个持续存在的难题。为何如此？我们审阅了现有的幻觉定义，并将其归纳为单一的、统一的定义，其中先前的定义被纳入其中。我们认为，幻觉可以被统一定义为简单的、内部的世界建模不准确，且这种不准确性对用户而言是可观察的。例如，陈述与知识库相矛盾的事实，或生成与来源相矛盾的摘要。通过变更参考世界模型和冲突策略，我们的框架统一了先前的定义。我们认为，这种统一视角有用，因为它迫使评估明确其假设的参考“世界”，区分真实的幻觉与规划或奖励错误，并为跨基准比较以及缓解策略讨论提供 common language。基于此定义，我们概述了一系列基准测试的计划，这些基准测试使用合成的、完全指定的参考世界模型，以检验和改进世界建模组件。
引用
@article{arxiv.2512.21577,
title = {A Unified Definition of Hallucination: It's The World Model, Stupid!},
author = {Emmy Liu and Varun Gangal and Chelsea Zou and Michael Yu and Xiaoqi Huang and Alex Chang and Zhuofu Tao and Karan Singh and Sachin Kumar and Steven Y. Feng},
journal= {arXiv preprint arXiv:2512.21577},
year = {2026}
}
备注
HalluWorld benchmark in progress. Repo at https://github.com/DegenAI-Labs/HalluWorld