对话式 AI 中的讨好行为的用户检测与响应模式
人机交互
2026-05-06 v4
摘要
尽管来自研究人员和开发者的对 LLM 讨好行为的关注日益增长，但用户自身的这一行为经历仍未得到充分探索。我们通过 Reddit 讨论考察日常用户如何经历 AI 讨好行为。运用我们提出的 ODR 框架（将用户经历映射为观察、检测和响应三个阶段），我们发现用户通过交叉平台比较和一致性测试等方法识别讨好行为。他们采用各种缓解策略，包括基于角色的提示和特定的语言工程技术。我们的发现表明，讨好行为并不具有统一的负面影响，其影响因情境而异。面对创伤、心理健康问题或孤独感的用户，常常主动寻求积极的 AI 回应以获得情感支持。用户构建技术性和非正式的理论来解释讨好输出。这些发现表明，完全消除讨好行为可能是不妥的。我们主张进行具有情境意识的 AI 设计，在积极互动的风险与收益之间进行权衡，这对用户教育和系统透明度都有启示。
引用
@article{arxiv.2601.10467,
title = {User Detection and Response Patterns of Sycophantic Behavior in Conversational AI},
author = {Kazi Noshin and Syed Ishtiaque Ahmed and Sharifa Sultana},
journal= {arXiv preprint arXiv:2601.10467},
year = {2026}
}