中文

RePrompT:用于整合结构化 EHR 编码器与大语言模型的循环提示调优

计算与语言 2026-04-21 v1 人工智能

摘要

大语言模型(LLMs)已显示出强大的潜力,可通过推理纵向临床信息来捕获充满情境的患者轨迹。然而,针对结构化 EHR(如标准化诊断和药物代码)利用 LLMs 存在两个关键挑战。首先,将带时间戳的 EHR 序列转换为纯文本可能会遮蔽两种时间结构和代码身份,削弱捕获代码共现和纵向规律的能力。其次,与在队列上训练的预测模型不同,后者是在案例隔离的推断设置中应用的,即每个患者被独立处理,而不利用人群水平模式。为此,我们引入 RePrompT,一个时序感知的 LLM 框架,通过提示调优整合结构化 EHR 编码器,而无需修改底层架构。具体而言,RePrompT 递归地整合来自先前访问的潜在状态以保留纵向信息,并通过源自队列训练的、任务对齐的 EHR 编码器派生的可训练提示标记来注入人群水平信息。在 MIMIC-III 和 MIMIC-IV 上的实验表明,RePrompT 在多个临床预测任务上 consistently 优于 EHR 基础和 LLM 基础的基线方法。

关键词

引用

@article{arxiv.2604.17725,
  title  = {RePrompT: Recurrent Prompt Tuning for Integrating Structured EHR Encoders with Large Language Models},
  author = {Arya Hadizadeh Moghaddam and Drew Ross and Mohsen Nayebi Kerdabadi and Dongjie Wang and Zijun Yao},
  journal= {arXiv preprint arXiv:2604.17725},
  year   = {2026}
}

备注

Finding of ACL 2026 - Accepted Paper