中文

面向免疫介导疾病的特色专业医疗语言模型

计算与语言 2026-05-29 v1 人工智能

摘要

从自由文本医学叙述中提取详细的临床信息仍是研究人员和医疗系统面临的实际挑战。免疫介导和感染性疾病的术语在不同来源之间尤其不一致,这往往限制了通用自然语言处理(NLP)系统捕获相关生物医学概念以足够细粒度的能力。我们开发了一个针对免疫学和感染性疾病情境中识别疾病相关实体的领域特定命名实体识别(NER)模型。我们与两位临床专家合作,组装并手动标注了 371 份病例报告,定义了 12 个实体类别,涵盖免疫介导和感染性疾病以及相关症状和临床描述符。我们评估了几种建模策略,包括面向医疗领域的 MedicalNER 架构、基于 BERT 的标记分类模型以及零样本 NER 系统。最佳性能来自在临床领域嵌入上训练的基于转换器的模型,达到了 0.89 的 F1 分数,持续优于基线和零样本方法。专业嵌入和专家标注的组合对于捕获细粒度的疾病术语并提高其在异构生物医学文本上的泛化能力尤其有价值。受提示的 LLM 基线在相同评估协议下实现了显著较低的性能,这反映了尽管进行了详细提示,仍难以产生与细粒度实体边界相符的 span-consistent 输出。该 resulting model 提供了一种结构化的方式来分析病例报告,并可支持下游任务,如患者群体识别、疾病监测和临床决策支持。

关键词

引用

@article{arxiv.2605.28838,
  title  = {Specialty-Specific Medical Language Model for Immune-Mediated Diseases},
  author = {Veysel Kocaman and Gursev Pirge and Yigit Gul and Ace Vo and Zhenya Nargizyan and David Talby},
  journal= {arXiv preprint arXiv:2605.28838},
  year   = {2026}
}

备注

15 pages, 5 figures. Funded in part by NIAID/NIH under contract 75N93024C00010