理解 AI 聊天机器人使用的风险与依赖：基于用户话语的分析
计算与语言
2026-02-11 v1
摘要
生成式 AI 系统日益嵌入日常生活，但对 AI 使用所引发心理风险如何产生、被体验以及被用户调节的经验性理解仍有限。我们对来自 2023-2025 年来自两个 Reddit 社区 r/AIDangers 和 r/ChatbotAddiction 的帖子进行大规模计算性主题分析，这两个社区明确聚焦 AI 相关的伤害与痛苦。运用基于 Braun 和 Clarke 反思性框架的多智能体、LLM 辅助主题分析，我们识别出 14 个反复出现的主题类别，并将其综合为五个更高阶的体验维度。为进一步刻画情感模式，我们应用基于 BERT 的情感标签分类器，对各维度的情感轮廓进行可视化。我们的发现揭示了五个从真实用户话语中派生的 AI 相关心理风险的经验维度，其中自我调节困难是最突出的现象，恐惧集中体现在对自主性、控制权及技术风险的担忧上。这些结果为 AI 安全在实验室或假设情境之外的真实用户体验提供了早期经验性证据，为未来的 AI 安全研究、评估及负责任治理奠定了基础。
引用
@article{arxiv.2602.09339,
title = {Understanding Risk and Dependency in AI Chatbot Use from User Discourse},
author = {Jianfeng Zhu and Karin G. Coifman and Ruoming Jin},
journal= {arXiv preprint arXiv:2602.09339},
year = {2026}
}
备注
21 pages, 5 figures