一种用于自动生成医疗笔记的持续预训练 LLM 方法
计算与语言
2024-04-05 v3 人工智能
摘要
LLM 正在彻底改变 NLP 任务。然而，对于大多数专业领域而言，使用最先进的 LLM（如 GPT-4）通常是极其昂贵的。我们引入了 HEAL，这是第一个专为医疗对话构建并针对自动听写进行测量的持续训练的、基于 13B LLaMA2 的 LLM。我们的结果表明，HEAL 在 PubMedQA 上的准确率为 78.4\%，优于 GPT-4 和 PMC-LLaMA。它在生成医疗笔记方面也与 GPT-4 达到了同等水平。值得注意的是，HEAL 在识别更多正确的医疗概念方面超越了 GPT-4 和 Med-PaLM 2，并且在正确性和完整性方面超过了人类抄写员和其他可比模型的性能。
引用
@article{arxiv.2403.09057,
title = {A Continued Pretrained LLM Approach for Automatic Medical Note Generation},
author = {Dong Yuan and Eti Rastogi and Gautam Naik and Sree Prasanna Rajagopal and Sagar Goyal and Fen Zhao and Bharath Chintagunta and Jeff Ward},
journal= {arXiv preprint arXiv:2403.09057},
year = {2024}
}
备注
Accepted to NAACL 2024