面向临床的移动设备级语言模型——MedMobile
计算与语言
2025-12-01 v2
摘要
语言模型（LM）已在医学领域展示出专家级的推理和记忆能力。然而，计算成本和隐私顾虑正成为大规模实施的主要障碍。为此，我们引入phi-3-mini的一个精简化改造版本——MedMobile，这是一个38亿参数的语言模型，能够在移动设备上运行，专用于医学应用。我们进行了一系列仪表管道添加的严谨实验，发现链式思考（chain of thought）、集成（ensembling）和微调（fine-tuning）带来了最大的性能提升，而意外的是检索增强生成（RAG）未能显著提升效果。我们在MultiMedQA和MedBullets上评估了管道的效率。我们展示了MedMobile在MedQA（USMLE）上取得75.7%的得分，超过了执业医师的合格线（约60%），并与模型规模是其100倍的模型持平。在MultiMedQA的全部内容中，MedMobile实现了参数不足50亿的模型中最先进的性能，并成为首个通过MedQA（USMLE）的最小模型。MedMobile有望通过降低计算需求和加快推理速度，推动语言模型在医学领域的普及。凭借其能力克服了医学语言模型进入的主要障碍，我们希望MedMobile是开发临床相关语言模型的重要进步。
引用
@article{arxiv.2410.09019,
title = {MedMobile: A mobile-sized language model with clinical capabilities},
author = {Krithik Vishwanath and Jaden Stryker and Anton Alyakin and Daniel Alexander Alber and Eric Karl Oermann},
journal= {arXiv preprint arXiv:2410.09019},
year = {2025}
}
备注
24 pages, 7 figures (4 main, 3 supplementary)