评估一种基于大语言模型的认知重构聊天机器人
人机交互
2025-01-28 v1
摘要
最近的大型语言模型（LLM）进展为通过模拟治疗技术来扩展心理健康干预，潜在地缓解护理障碍。然而，缺乏对 LLM 启用心理治疗干预实际应用优势与局限性的实证证据。在本工作中，我们评估了一个基于 LLM 的聊天机器人，该机器人通过提示工程设计用于提供认知重构（CR），并邀请 19 名用户进行交互。心理健康专业人士随后检查产生的对话日志，以揭示潜在益处与潜在风险。我们的发现表明，基于 LLM 的 CR 方法能够遵循核心 CR 程序，提示苏格拉底提问，并提供同理倾听。然而，权力不平衡、建议性、误解信号以及过度积极性等问题揭示了更深层的挑战，包括可能削弱治疗关系和伦理问题。我们还讨论了在心理治疗中利用 LLM 的设计含义，并强调了专家监督以缓解这些问题的重要性，这些都是通向更安全、更有效的 AI 辅助干预的关键步骤。
引用
@article{arxiv.2501.15599,
title = {Evaluating an LLM-Powered Chatbot for Cognitive Restructuring: Insights from Mental Health Professionals},
author = {Yinzhou Wang and Yimeng Wang and Ye Xiao and Liabette Escamilla and Bianca Augustine and Kelly Crace and Gang Zhou and Yixuan Zhang},
journal= {arXiv preprint arXiv:2501.15599},
year = {2025}
}