BioMistral：面向医疗领域的开源预训练大语言模型集合
计算与语言
2024-07-18 v3 人工智能
机器学习
摘要
近年来，大语言模型展现出了卓越的多功能性，在医疗保健和医学等专业领域提供了潜在应用。尽管存在各种为健康背景量身定制的开源 LLM，但将通用 LLM 适应到医疗领域仍面临重大挑战。在本文中，我们介绍了 BioMistral，这是一个为生物医学领域量身定制的开源 LLM，它以 Mistral 为基础模型，并在 PubMed Central 上进行了进一步预训练。我们在一个包含 10 个既定英文医学问答（QA）任务的基准上对 BioMistral 进行了全面评估。我们还探索了通过量化和模型合并方法获得的轻量级模型。我们的结果表明，与现有的开源医学模型相比，BioMistral 表现出卓越的性能，并且与专有模型相比具有竞争力。最后，为了解决英语以外数据可用性有限的问题，并评估医学 LLM 的多语言泛化能力，我们自动将该基准翻译并评估为 7 种其他语言。这标志着医学领域 LLM 首次大规模多语言评估。我们在实验过程中获得的数据集、多语言评估基准、脚本和所有模型均已免费发布。
引用
@article{arxiv.2402.10373,
title = {BioMistral: A Collection of Open-Source Pretrained Large Language Models for Medical Domains},
author = {Yanis Labrak and Adrien Bazoge and Emmanuel Morin and Pierre-Antoine Gourraud and Mickael Rouvier and Richard Dufour},
journal= {arXiv preprint arXiv:2402.10373},
year = {2024}
}
备注
Accepted at ACL 2024 - Proceedings of the 62st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)