表达污名化及不当回应会阻止LLM安全取代心理健康提供者
计算与语言
2025-04-28 v1
摘要
大型语言模型（LLM）是否可用作治疗师？本文考察了LLM是否可取代心理健康提供者这一用例，该用例在科技初创公司和研究领域备受推崇。我们对医疗机构使用的治疗指南进行了映射性综述，以识别治疗关系的关键方面，如治疗师与来访者之间建立治疗联盟的重要性。随后，我们评估了LLM是否能够复现并遵循这些治疗关系方面的要素，通过开展实验研究探讨当前LLM（如gpt-4o）的响应能力。与医疗界最佳实践相比，LLM 1) 对持有精神疾病者表现污名化，2) 对自然环境中的某些常见（且关键）情况做出不当回应——例如，LLM鼓励来访者的妄想思维，可能是由于其讨好倾向。这一现象即便出现在更大型和更新的LLM中，表明当前的安全实践可能未能解决这些差距。此外，我们注意到LLM作为治疗师的根本性和实际障碍，例如治疗联盟需要人类特征（如身份认同和利益）。基于此，我们认为LLM不应取代治疗师，并讨论了LLM在临床治疗中的替代角色。
引用
@article{arxiv.2504.18412,
title = {Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers},
author = {Jared Moore and Declan Grabb and William Agnew and Kevin Klyman and Stevie Chancellor and Desmond C. Ong and Nick Haber},
journal= {arXiv preprint arXiv:2504.18412},
year = {2025}
}