脚本-策略对齐生成：与专家设计的对话脚本和治疗策略对齐LLM用于精神治疗
人机交互
2025-08-20 v2 人工智能
摘要
聊天机器人或对话代理（CAs）正在被用于提高数字精神治疗的可及性。许多当前系统依赖刚性的、基于规则的设计，严重依赖于专家设计的对话脚本来指导治疗性对话。尽管大型语言模型（LLM）的进步为更灵活的交互提供了潜力，但其缺乏可控性和可解释性在高风险场景（如精神治疗）中提出了挑战。为此，我们在本工作中开展了两项研究，探讨了与专家设计的脚本对齐LLM如何提升精神治疗聊天机器人性能。在研究1（N=43）中，采用群内设计的在线实验，我们比较了基于规则的、纯LLM和与专家设计的脚本通过微调和提示对齐的LLM。结果表明，对齐的LLM在同情心、对话相关性和遵循治疗原则方面显著优于其他类型的聊天机器人。基于这些发现，我们提出了一种更灵活的对齐方法，即“脚本-策略对齐生成（SSAG）”，该方法减少了对完全脚本内容的依赖，同时保持LLM的治疗遵循性和可控性。在10天的现场研究2（N=21）中，SSAG在治疗效果方面相当于完全脚本化的LLM，却需要不到40%的专家设计对话内容。除了这些结果之外，本工作推进了LLM在精神治疗中的应用，提供了一种可控且可扩展的解决方案，减少了对专家工作的依赖。通过使领域专家能够通过高层次策略而非完整脚本对齐LLM，SSAG支持更高效的协同开发，扩大了更广泛范围内的精神治疗的可及性。
引用
@article{arxiv.2411.06723,
title = {Script-Strategy Aligned Generation: Aligning LLMs with Expert-Crafted Dialogue Scripts and Therapeutic Strategies for Psychotherapy},
author = {Xin Sun and Jan de Wit and Zhuying Li and Jiahuan Pei and Abdallah El Ali and Jos A. Bosch},
journal= {arXiv preprint arXiv:2411.06723},
year = {2025}
}