Qilin-Med：融合多阶段知识注入的进阶医疗大语言模型
计算与语言
2024-04-18 v2
摘要
将大语言模型(LLMs)整合到医疗领域具有巨大潜力，但也面临挑战。从零开始为医学等领域预训练LLM耗费大量资源且通常不可行。另一方面，仅依赖监督微调(SFT)可能导致过度自信的预测，并可能无法利用领域特定洞见。为此，我们提出一种结合领域特定持续预训练(DCPT)、SFT和直接偏好优化(DPO)的多阶段训练方法。此外，我们发布了一个3Gb的中文医学(ChiMed)数据集，涵盖医学问答、纯文本、知识图谱和对话，并划分为三个训练阶段。采用我们的流程训练的医疗LLM，即Qilin-Med，展现出显著的性能提升。在CPT和SFT阶段，Qilin-Med在CMExam测试集上分别取得了38.4%和40.0%的准确率，优于基线模型Baichuan-7B(准确率：33.5%)达7.5%。在DPO阶段，其在Huatuo-26M测试集上BLEU-1得分为16.66，ROUGE-1得分为27.44，较SFT阶段(BLEU-1为12.69，ROUGE-1为24.21)进一步提升。此外，我们通过检索增强生成(RAG)方法进一步提升了模型性能。实验表明，Qilin-Med-RAG在CMExam上达到了42.8%的准确率。这些结果凸显了我们新颖训练方法在构建医疗应用LLM方面的贡献。
引用
@article{arxiv.2310.09089,
title = {Qilin-Med: Multi-stage Knowledge Injection Advanced Medical Large Language Model},
author = {Qichen Ye and Junling Liu and Dading Chong and Peilin Zhou and Yining Hua and Fenglin Liu and Meng Cao and Ziming Wang and Xuxin Cheng and Zhu Lei and Zhenhua Guo},
journal= {arXiv preprint arXiv:2310.09089},
year = {2024}
}