关于迎合型 AI 的理性分析

人们越来越多地使用大语言模型（LLM）来探索想法、收集信息和理解世界。在这些交互过程中，他们遇到的代理过于顺从。我们认为，这种迎合行为对人们如何看待世界构成独特的认识风险：与引入虚假信息的幻觉不同，迎合行为通过返回偏向强化既有信念的响应来扭曲现实。我们对这一现象进行理性分析，表明当贝叶斯智能体接收数据样本基于当前假设时，该智能体会变得越来越自信，但不会向真相逼近。我们通过修改 Wason 2-4-6 规则发现任务来测试这一预测，其中参与者（N=557）与提供不同类型反馈的人工智能代理进行交互。未经修改的 LLM 行为抑制了发现并使自信心膨胀，效果相当于显式迎合式提示。相比之下，来自真实分布的无偏抽样导致发现率提升了五倍。这些结果揭示了迎合型 AI 如何扭曲信念，制造出本应怀疑的确定性。