ChatDoctor：基于医学领域知识在大型语言模型 Meta-AI（LLaMA）上微调的医学聊天模型
计算与语言
2023-06-27 v5
摘要
本研究的主要旨在通过创建一种在医学建议方面具有更高准确性的专用语言模型，来解决 ChatGPT 等流行大型语言模型（LLM）在医学知识方面的局限性。我们通过使用来自广泛使用的在线医疗咨询平台的 100,000 条医患对话大型数据集对大型语言模型 Meta-AI（LLaMA）进行适配和精炼来实现这一目标。这些对话经过清理和匿名化处理以尊重隐私问题。除模型精炼外，我们引入了自主信息检索机制，使模型能够访问和利用来自维基百科等在线来源以及精选离线医学数据库中的实时信息。利用真实世界医患交互对模型进行微调，显著提升了模型理解患者需求并提供知情建议的能力。通过为模型配备来自可靠线上和线下来源的自主信息检索，我们观察到其回答准确性得到实质性提升。我们提出的 ChatDoctor 代表了医学 LLM 的重大进展，在理解患者询问和提供准确建议方面展现出显著改进。鉴于医学领域的高风险与低容错性，此类在提供准确可靠信息方面的改进不仅有益而且必不可少。
引用
@article{arxiv.2303.14070,
title = {ChatDoctor: A Medical Chat Model Fine-Tuned on a Large Language Model Meta-AI (LLaMA) Using Medical Domain Knowledge},
author = {Yunxiang Li and Zihan Li and Kai Zhang and Ruilong Dan and Steve Jiang and You Zhang},
journal= {arXiv preprint arXiv:2303.14070},
year = {2023}
}