生成式AI中的幻觉工程：这不是一个错误，这是一个特性
计算与语言
2026-01-13 v1
摘要
生成式人工智能（AI）正以惊人的速度征服我们的生活。大型语言模型如ChatGPT正在回答我们的提问或为我们撰写文本，大型计算机视觉模型如GAIA-1则基于文本描述生成视频或延续提示的视频。这些神经网络模型是使用大量文本或视频数据严格遵循训练数据进行训练的。然而，有一个令人惊讶的观察：当我们使用这些模型时，它们只有在被允许一定程度的幻想（幻觉）时才会正常工作。尽管幻觉通常在生成式AI中带有负面含义——毕竟，ChatGPT本应给出基于事实的答案！——但本文概述了一些简单的概率工程手段，可鼓励生成式AI适度幻觉，从而实现所需结果。我们不得不问自己：生成式AI中的幻觉可能不是一个错误，而是一个特性？
引用
@article{arxiv.2601.07046,
title = {Engineering of Hallucination in Generative AI: It's not a Bug, it's a Feature},
author = {Tim Fingscheidt and Patrick Blumenberg and Björn Möller},
journal= {arXiv preprint arXiv:2601.07046},
year = {2026}
}
备注
This is an article that has been written reflecting a talk of Tim Fingscheidt at the 2025 New Year gathering of Braunschweigische Wissenschaftliche Gesellschaft on January 25th, 2025