迎合式聊天机器人导致幻觉式递进，即便在理想的贝叶斯用户身上亦是如此
人工智能
2026-02-24 v1 计算机与社会
人机交互
摘要
“AI 精神断层”或“幻觉式递进”是一种新兴现象，指 AI 聊天机器人用户在与聊天机器人进行长时间对话后，发现自己对离谱信念产生危险自信。这种现象通常归因于 AI 聊天机器人对验证用户主张偏好的已知现象，称为“迎合”。本文通过建模与仿真探讨 AI 迎合与 AI 引发的精神断层之间的因果关系。我们提出了一个简易的贝叶斯模型来模拟用户与聊天机器人对话，形式化地定义了迎合和幻觉式递进。随后我们表明，在该模型中，即便是理想的贝叶斯理性用户也可能遭受幻觉式递进，且迎合发挥了因果作用。此外，这一效应在两项候选缓解措施下仍然存在：防止聊天机器人产生虚假主张，以及向用户通知模型迎合的可能性。我们最后讨论了这些结果对关注缓解幻觉式递进问题的模型开发者和政策制定者的意义。
引用
@article{arxiv.2602.19141,
title = {Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians},
author = {Kartik Chandra and Max Kleiman-Weiner and Jonathan Ragan-Kelley and Joshua B. Tenenbaum},
journal= {arXiv preprint arXiv:2602.19141},
year = {2026}
}