中文

基于LLM的具备短长期记忆协调的个性化医疗助手

计算与语言 2024-04-05 v3

摘要

大语言模型(LLMs),如GPT3.5,已展现出卓越的自然语言理解与生成能力。另一方面,医疗助手有潜力为个体提供实质性益处。然而,基于LLM的个性化医疗助手的探索仍相对匮乏。通常,患者会根据其背景与偏好以不同方式交谈,这就需要增强面向用户的医疗助手的任务。虽然可以为此目标完整训练一个LLM,但资源消耗难以承受。先前研究探索了基于记忆的方法,以在对话会话中针对新查询利用对先前错误的感知来增强响应。我们认为仅有的记忆模块是不够的,且完整训练LLM可能过于昂贵。在本研究中,我们提出了一种新颖的计算仿生记忆机制,配备参数高效微调(PEFT)方案,以个性化医疗助手。

关键词

引用

@article{arxiv.2309.11696,
  title  = {LLM-based Medical Assistant Personalization with Short- and Long-Term Memory Coordination},
  author = {Kai Zhang and Yangyang Kang and Fubang Zhao and Xiaozhong Liu},
  journal= {arXiv preprint arXiv:2309.11696},
  year   = {2024}
}