LLMD：用于解释纵向医学记录的大语言模型
计算与语言
2024-10-18 v1 人工智能
摘要
我们提出了 LLMD，一款大语言模型，用于根据患者的医学记录分析其病历。除了领域知识外，LLMD 还在大量随时间跨越多个医疗机构收集的记录上进行训练，以及使其能够在这些记录之间建立细微联系的任务和标签。这一方法对于准确呈现患者健康状况至关重要，相较于仅基于知识、无标签记录、结构化 EHR 数据或单一健康系统的记录的模型具有独特优势。LLMD 的配方持续在领域知识和数百万记录内容上进行预训练。这些记录的平均照护年限为 10 年，单个患者可涉及最多 140 个照护站点。随后对 LLMD 进行指令微调，以执行结构化和抽象化任务。前者共同识别和规范文档元数据、来源信息、临床命名实体以及本体映射，而后者则将这些内容整合成更高层次的表示，例如患者服药的持续时间。LLMD 部署在分层验证系统中，包括持续随机审计和专家审核，例如基于不确定性、疾病特定规则或特定用例。LLMD 在生物医学知识基准测试中实现了显著提升，LLMD-8B 在 PubMedQA 文本响应方面实现了领先的准确率，甚至超越了数量级更大的模型。在实际任务中，LLMD 在所有评估的模型中均表现出色，而在替代方案中，像 GPT-4o 这类大型通用 LLM 在准确率方面优于强调医学知识的模型。我们发现，当分析真实世界的患者数据时，对今天医学基准测试准确率并非最重要因素，这一洞察对未来的医学 LLM 具有深远意义。
引用
@article{arxiv.2410.12860,
title = {LLMD: A Large Language Model for Interpreting Longitudinal Medical Records},
author = {Robert Porter and Adam Diehl and Benjamin Pastel and J. Henry Hinnefeld and Lawson Nerenberg and Pye Maung and Sebastien Kerbrat and Gillian Hanson and Troy Astorino and Stephen J. Tarsa},
journal= {arXiv preprint arXiv:2410.12860},
year = {2024}
}