扭曲而非幻觉：在严格约束下的推理效应
计算与语言
2026-01-06 v1 人工智能
摘要
随着大语言模型（LLM）的广泛采用，幻觉（模型输出中的非事实捏造）已成为严重关切。推理能力备受关注，被视为自我验证过程以提高输出可靠性。然而，在 LLM 无法依赖外部工具或知识的封闭系统中，推理的实际效果尚未得到明了的阐明。为此，我们在严格约束下（推荐计算机科学领域的同行评审期刊文章）开展实验，以审视不同模型（GPT-5.2 与 Gemini 3 Flash）上的推理效应。我们的结果揭示，约束遵守与事实准确性之间存在问题的权衡：非推理模型表现出高达 66-75% 的约束违规率，但保持事实准确性；而推理模型则将违规率降至 13-26%，但系统性地扭曲既有事实以满足约束，导致更严重的捏造。这种权衡模式在两种模型中均一致，表明推理存在根本性局限。进一步地，推理并不均匀提升输出真实性：效应因模型而异，反映了遵守与真实性之间的不同分配。我们的发现挑战了推理普遍提升可靠性的假设：推理模型以顽固的约束违规换取难以察觉的扭曲。
引用
@article{arxiv.2601.01490,
title = {Distortion Instead of Hallucination: The Effect of Reasoning Under Strict Constraints},
author = {Junichiro Niimi},
journal= {arXiv preprint arXiv:2601.01490},
year = {2026}
}