AlpaCare：面向医疗应用的指令微调大语言模型
计算与语言
2025-04-02 v6 人工智能
摘要
指令微调（IFT）在将大语言模型（LLMs）与多样化人类需求对齐方面已变得至关重要，并在医疗应用中展现出巨大潜力。然而，先前研究主要在多样性有限的生物医学数据集上微调 LLMs，这些数据集常依赖基准或狭窄任务范围，从而显著限制了其在医疗指令遵循能力与泛化性上的有效性。为弥补该缺口，我们提出使用 GPT-4 和 ChatGPT 及高质量专家策划种子集，创建多样化的机器生成医疗 IFT 数据集 MedInstruct-52k。我们随后在该数据集上微调 LLaMA 系列模型以开发 AlpaCare。尽管使用的领域特定数据集小于先前医疗 LLMs，AlpaCare 不仅在医疗应用上展现优越性能，在医疗自由形式指令评估中较最佳基线绝对提升达 38.1%，还在多个通用领域基准上平均取得 6.7% 的绝对提升。人工评估进一步表明，AlpaCare 在正确性与有用性上均持续优于最佳基线。我们在 https://github.com/XZhang97666/AlpaCare 公开提供数据、模型与代码库。
引用
@article{arxiv.2310.14558,
title = {AlpaCare:Instruction-tuned Large Language Models for Medical Application},
author = {Xinlu Zhang and Chenxin Tian and Xianjun Yang and Lichang Chen and Zekun Li and Linda Ruth Petzold},
journal= {arXiv preprint arXiv:2310.14558},
year = {2025}
}