我思故我幻觉：心智、机器与犯错的艺术

本理论工作探讨了人类认知与大型语言模型中的“幻觉”，比较了这两个系统如何产生偏离现实的感知或输出。借鉴神经科学与机器学习研究，我们强调了人类与人工智能思维背后的预测过程。在人类中，复杂的神经机制在不确定性下解释感官信息，有时会填补空白并产生错误感知。这种推理是分层进行的：较高的皮层层级向较低层级区域发送自上而下的预测，而失配（预测误差）则向上传播以优化模型。相比之下，LLM 依赖于文本的自回归建模，在缺乏稳健基础的情况下可能生成错误陈述。尽管存在生物与计算的基础差异，它们在预测架构上的相似性有助于解释幻觉为何发生。我们提出，生成错误或虚构响应的倾向可能是高级智能的固有特征。在人类和 AI 中，适应性预测过程旨在理解不完整信息并预测未来状态，从而促进创造力与灵活性，但也引入了出错风险。我们的分析阐明了反馈、基础和误差校正等因素如何影响每个系统“犯错”的可能性。我们建议，缓解 AI 幻觉（例如通过改进训练、后处理或知识基础方法）也可能为人类认知过程提供启示，揭示如何在不损害可靠性的前提下利用易错预测进行创新。通过探索这些趋同与分化的机制，本文强调了推进 AI 可靠性和对人类思维科学理解的广泛意义。