基于LLM的具备短长期记忆协调的个性化医疗助手
计算与语言
2024-04-05 v3
摘要
大语言模型(LLMs),如GPT3.5,已展现出卓越的自然语言理解与生成能力。另一方面,医疗助手有潜力为个体提供实质性益处。然而,基于LLM的个性化医疗助手的探索仍相对匮乏。通常,患者会根据其背景与偏好以不同方式交谈,这就需要增强面向用户的医疗助手的任务。虽然可以为此目标完整训练一个LLM,但资源消耗难以承受。先前研究探索了基于记忆的方法,以在对话会话中针对新查询利用对先前错误的感知来增强响应。我们认为仅有的记忆模块是不够的,且完整训练LLM可能过于昂贵。在本研究中,我们提出了一种新颖的计算仿生记忆机制,配备参数高效微调(PEFT)方案,以个性化医疗助手。
引用
@article{arxiv.2309.11696,
title = {LLM-based Medical Assistant Personalization with Short- and Long-Term Memory Coordination},
author = {Kai Zhang and Yangyang Kang and Fubang Zhao and Xiaozhong Liu},
journal= {arXiv preprint arXiv:2309.11696},
year = {2024}
}