聊天机器人与用户认知的错觉：从傲娇现象的深入探讨
人机交互
2026-03-24 v1
摘要
尽管研究者们因聊天机器人引发的因傲娇及其他行为（包括谷歌灯笼）而产生担忧，但用户自身如何体验和缓解这些问题却鲜有探讨。我们分析了 Reddit 讨论，调查用户报告的担忧及其应对方式。我们的发现揭示了五种用户报告的担忧，跨越多个生活领域，从个人层面到社会层面：引发错觉、叙事跌题、牟取用户作为模型局限的证据、引发成瘾、以及提供无监管的心理支持。我们记录了三层次的用户驱动建议，涵盖功能性使用技巧、行为方法以及私人和制度性保障。我们的发现表明，AI 引发的伤害需要来自用户、开发者和政策制定者的协调干预。我们讨论了设计中的含义以及未来方向，以缓解这些伤害并确保用户获益。
引用
@article{arxiv.2603.21409,
title = {The Illusion of Agreement with ChatGPT: Sycophancy and Beyond},
author = {Kazi Noshin and Sharifa Sultana},
journal= {arXiv preprint arXiv:2603.21409},
year = {2026}
}