大语言模型在心理健康咨询中的挑战
计算与语言
2023-11-27 v1 人工智能
人机交互
摘要
全球心理健康危机正随着精神障碍的迅速增加、资源的有限性以及寻求治疗的社会污名而日益逼近。近年来人工智能(AI)领域取得了显著进展,能够理解并生成类人文本的大语言模型(LLMs)可用于支持或提供心理咨询。然而,LLMs在心理健康领域的应用引发了关于所提供信息的准确性、有效性和可靠性的担忧。本文研究了开发用于心理咨询的LLMs所面临的主要挑战,包括模型幻觉、可解释性、偏差、隐私和临床有效性。我们探讨了在当前AI范式下切实可行且可应用的这些挑战的潜在解决方案。基于我们在开发和部署心理健康LLMs方面的经验,如果我们能够谨慎应对并克服LLMs的缺陷,AI在改善心理健康护理方面具有巨大前景。
引用
@article{arxiv.2311.13857,
title = {Challenges of Large Language Models for Mental Health Counseling},
author = {Neo Christopher Chung and George Dyer and Lennart Brocki},
journal= {arXiv preprint arXiv:2311.13857},
year = {2023}
}