基于决策 Transformer 与大语言模型的咨询与心理治疗对话主题推荐
计算与语言
2024-05-09 v1
摘要
鉴于对心理健康援助需求的不断增长，人工智能（AI），尤其是大语言模型（LLM），可能对于集成到自动化临床支持系统中具有重要价值。在这项工作中，我们利用决策 Transformer 架构，在患者与心理健康专业人员之间的咨询对话中进行主题推荐。该架构用于离线强化学习，我们从对话中先前的轮次提取状态（对话轮次嵌入）、动作（对话主题）和奖励（衡量患者与治疗师之间对齐程度的分数），以训练决策 Transformer 模型。我们展示了相对于基线强化学习方法的改进，并提出了一种新颖的系统，将我们模型的输出作为合成标签，以针对相同任务微调大语言模型。尽管我们基于 LLaMA-2 7B 的实现结果喜忧参半，但未来的工作无疑可以在此设计基础上继续发展。
引用
@article{arxiv.2405.05060,
title = {Conversational Topic Recommendation in Counseling and Psychotherapy with Decision Transformer and Large Language Models},
author = {Aylin Gunal and Baihan Lin and Djallel Bouneffouf},
journal= {arXiv preprint arXiv:2405.05060},
year = {2024}
}
备注
5 pages excluding references, 3 figures; accepted at Clinical NLP Workshop @ NAACL 2024