与AI一起幻觉：AI精神病作为分布式妄想

关于生成式AI系统如ChatGPT、Claude、Gemini、DeepSeek和Grok产生的错误输出，存在大量讨论。在流行术语中，这些被称为AI幻觉。然而，将这些AI输出称为幻觉存在争议，许多人认为这是一个比喻性的误称。然而，在本文中，我论证了当我们通过分布式认知理论的视角来审视时，我们可以更好地理解不准确信念、扭曲记忆和自我叙事以及妄想思维通过人机交互动态且令人不安地涌现的方式——这些现象 popularly 被称为AI精神病案例。在这些案例中，我建议我们不再思考AI系统如何通过生成错误输出来对我们产生幻觉，而是思考当我们习惯性地依赖生成式AI来帮助我们思考、记忆和叙述时，我们如何可能与AI一起产生幻觉。当AI向分布式认知过程引入错误时可能发生这种情况，但当AI维持、确认和展开我们自己的妄想思维和自我叙事时也可能发生这种情况，例如在Jaswant Singh Chail的案例中。我还考察了聊天机器人的对话风格如何使其发挥双重功能，既作为认知人工制品，又作为与我们共同构建信念、叙事和现实的准他者。我建议正是这种双重功能使生成式AI成为分布式认知的一个不寻常且特别具有诱惑力的案例。