Med42——医疗大语言模型微调策略评估：全参数与参数高效方法
计算与语言
2024-04-24 v1
摘要
本研究在医疗大型语言模型（LLM）的背景下，对两种主流微调方法——全参数微调和参数高效微调——进行了全面的分析与比较。我们基于 Llama-2 架构开发并优化了一系列 LLM，专门用于增强医疗知识检索、推理和问答能力。我们的实验在多个知名的医疗基准上系统评估了这些微调策略的有效性。值得注意的是，我们的医疗 LLM Med42 在美国医师执照考试（USMLE）数据集上达到了 72% 的准确率，为开源医疗 LLM 创立了新的性能标准。通过这项对比分析，我们旨在确定在医疗领域微调 LLM 的最有效和高效的方法，从而为 AI 驱动的医疗保健应用的进步做出重大贡献。
引用
@article{arxiv.2404.14779,
title = {Med42 -- Evaluating Fine-Tuning Strategies for Medical LLMs: Full-Parameter vs. Parameter-Efficient Approaches},
author = {Clément Christophe and Praveen K Kanithi and Prateek Munjal and Tathagata Raha and Nasir Hayat and Ronnie Rajan and Ahmed Al-Mahrooqi and Avani Gupta and Muhammad Umar Salman and Gurpreet Gosal and Bhargav Kanakiya and Charles Chen and Natalia Vassilieva and Boulbaba Ben Amor and Marco AF Pimentel and Shadab Khan},
journal= {arXiv preprint arXiv:2404.14779},
year = {2024}
}
备注
Published at AAAI 2024 Spring Symposium - Clinical Foundation Models