利用大语言模型进行罕见疾病命名实体识别
计算与语言
2025-12-30 v2 人工智能
摘要
由于标注数据有限、实体类型间的语义歧义性以及长尾分布,罕见疾病领域的命名实体识别(NER)面临独特挑战。在本研究中,我们在低资源设置下评估了 GPT-4o 在罕见疾病 NER 上的能力,采用了一系列基于提示的策略,包括零样本提示、少样本上下文学习、检索增强生成(RAG)以及任务级微调。我们设计了一个结构化提示框架,为四种实体类型编码了领域特定知识和消歧规则。我们进一步引入了两种语义引导的少样本示例选择方法,以提高上下文性能并减少标注工作量。在 RareDis 语料库上的实验表明,与 BioClinicalBERT 相比,GPT-4o 取得了具有竞争力或更优的性能,其中任务级微调在所有评估方法中表现最佳,并超越了此前报道的 BioClinicalBERT 基线。成本-性能分析显示,少样本提示在低 token 预算下具有高回报。RAG 提供的整体增益有限,但可以提高具有挑战性的实体类型(尤其是体征和症状)的召回率。错误分类法突出了常见的失败模式,如边界漂移和类型混淆,为后处理和混合优化提供了机会。我们的结果表明,经过提示优化的 LLM 可以作为生物医学 NER 中传统监督模型的有效、可扩展的替代方案,特别是在标注数据稀缺的罕见疾病应用中。
引用
@article{arxiv.2508.09323,
title = {Leveraging Large Language Models for Rare Disease Named Entity Recognition},
author = {Nan Miles Xi and Yu Deng and Lin Wang},
journal= {arXiv preprint arXiv:2508.09323},
year = {2025}
}