当 LLM 心理治疗师变为推销员：评估大语言模型在伦理动机访谈中的表现
计算与语言
2025-04-01 v1
摘要
大语言模型( LLM)已被积极应用于精神健康领域。近期研究表明，LLM在应用心理治疗，尤其是动机访谈( MI)方面具有潜力。然而，缺乏对语言模型理解MI伦理能力的研究。鉴于恶意行为者可利用语言模型对MI进行不道德应用的风险，评估其区分伦理与不伦理MI实践的能力至关重要。因此，本研究通过多项实验探讨了LLM在MI中的伦理意识。我们的发现表明，LLM在MI知识方面表现出中等到强好的水平。然而，其伦理标准未与MI精神保持一致，因生成不伦理响应且在识别不伦理响应方面表现较差。我们提出了一种Chain-of-Ethic 提示词，以缓解此类风险并提高安全性。最终，我们的方案有效改善了伦理MI响应生成和检测性能。这一发现凸显了为构建以伦理为导向的LLM心理治疗系统需要进行安全评估和指南。
关键词
引用
@article{arxiv.2503.23566,
title = {When LLM Therapists Become Salespeople: Evaluating Large Language Models for Ethical Motivational Interviewing},
author = {Haein Kong and Seonghyeon Moon},
journal= {arXiv preprint arXiv:2503.23566},
year = {2025}
}