理解基于大语言模型的对话代理用于心理福祉支持的优势与挑战
人机交互
2023-08-01 v1
摘要
由大语言模型（LLM）驱动的对话代理已日益应用于心理福祉支持领域。然而，此类关键领域中其使用所带来的影响与结果仍不甚明晰且缺乏探索。我们对取自专注于大语言模型驱动心理健康支持应用（u/Replika）的最热门子版块的 120 篇帖子（含 2917 条用户评论）进行了定性分析。该探究旨在阐明将这些复杂模型集成至面向心理健康支持的对话代理中的优势与潜在缺陷。我们发现该应用（Replika）在提供按需、无评判支持、增强用户信心及辅助自我探索方面有益。然而，其在过滤有害内容、维持稳定交流、记忆新信息以及缓解用户过度依赖方面面临挑战。所附着的污名进一步使用户面临社会隔离风险。我们强烈主张，未来研究者与设计者必须充分评估采用 LLM 进行心理福祉支持的适用性，确保其负责任且有效的应用。
引用
@article{arxiv.2307.15810,
title = {Understanding the Benefits and Challenges of Using Large Language Model-based Conversational Agents for Mental Well-being Support},
author = {Zilin Ma and Yiyang Mei and Zhaoyuan Su},
journal= {arXiv preprint arXiv:2307.15810},
year = {2023}
}