EHR-R1:面向电子健康记录分析的推理增强基础语言模型
计算与语言
2025-11-26 v2
摘要
电子健康记录(EHR)包含丰富且复杂的信息,其自动化分析对临床决策至关重要。尽管近期大型语言模型(LLM)在临床工作流程中取得了进展,但其分析EHR的能力仍受限于任务覆盖范围不足和缺乏针对EHR的推理能力。本文旨在弥合这一差距,具体而言,我们提出了EHR-Ins(EHR reasoning instruction dataset),一个大规模、全面的EHR推理指令数据集,包含30万条高质量推理案例和400万条非推理案例,覆盖42种不同的EHR任务。其核心创新在于一种基于思考图驱动的框架,使其能够大规模生成高质量推理数据。基于此,我们开发了EHR-R1系列推理增强LLM,模型规模可达72亿参数,专为EHR分析而设计。通过多阶段训练范式,包括领域适应、推理增强和强化学习,EHR-R1系统性地获得了领域知识和多样化的推理能力,实现对EHR的准确且稳健的分析。最后,我们引入了EHR-Bench,这是一个新基准数据集,源自MIMIC-IV,涵盖42个任务,以全面评估EHR场景下的推理和预测能力。在实验中,我们表明所得EHR-R1在MIMIC-Bench上 consistently 超过当前最先进的商业和开源LLM(包括DeepSeek-V3和GPT-4o),在EHRSHOT上零样图预测AUROC提升了10%。综上,EHR-Ins、EHR-R1和EHR-Bench显著推动了更可靠且临床相关的EHR分析的发展。
引用
@article{arxiv.2510.25628,
title = {EHR-R1: A Reasoning-Enhanced Foundational Language Model for Electronic Health Record Analysis},
author = {Yusheng Liao and Chaoyi Wu and Junwei Liu and Shuyang Jiang and Pengcheng Qiu and Haowen Wang and Yun Yue and Shuai Zhen and Jian Wang and Qianrui Fan and Jinjie Gu and Ya Zhang and Yanfeng Wang and Yu Wang and Weidi Xie},
journal= {arXiv preprint arXiv:2510.25628},
year = {2025}
}