幻觉是坏的估计吗？
机器学习
2025-09-29 v1 人工智能
计算与语言
计算机视觉与模式识别
机器学习
摘要
我们将生成模型中的幻觉形式化为估计未与任何合理原因关联的失败。在这种解释下，我们指出，即使是最小化损失的优化估计器仍然会产生幻觉。我们通过对通用数据分布的幻觉率进行高概率下界确认了这一点。这重新框架化了幻觉，将其视为损失最小化与人类可接受输出之间的结构性错位，从而导致由误校准引起的估计误差。针对硬币聚合、开放式问答和文本到图像实验支持我们的理论。
引用
@article{arxiv.2509.21473,
title = {Are Hallucinations Bad Estimations?},
author = {Hude Liu and Jerry Yao-Chieh Hu and Jennifer Yuntong Zhang and Zhao Song and Han Liu},
journal= {arXiv preprint arXiv:2509.21473},
year = {2025}
}
备注
Code is available at https://github.com/MAGICS-LAB/hallucination