利用大型语言模型生成高保真伪标签以训练鲁棒的放射学报告分类器
计算与语言
2025-05-06 v1
摘要
胸部X光报告的自动标注对于实现下游任务（如训练基于图像的诊断模型、人群健康研究和临床决策支持）至关重要。然而，这些自由文本报告的高度可变性、复杂性以及否定和不确定性的普遍存在，给传统的自然语言处理方法带来了显著挑战。虽然大型语言模型（LLM）展现出强大的文本理解能力，但其直接应用于大规模、高效标注受到计算成本和速度的限制。本文介绍了DeBERTa-RAD，一个新颖的两阶段框架，它结合了最先进的LLM伪标注能力与高效的基于DeBERTa的知识蒸馏，以实现准确且快速的胸部X光报告标注。我们利用一个先进的LLM为大型报告语料库生成高质量的伪标签，包括确定性状态。随后，使用定制的知识蒸馏策略，在该伪标注数据上训练一个DeBERTa-Base模型。在专家标注的MIMIC-500基准上评估，DeBERTa-RAD达到了0.9120的最先进宏F1分数，显著优于已建立的基于规则的系统、微调的Transformer模型和直接的LLM推理，同时保持了适用于高吞吐量应用的实用推理速度。我们的分析显示其在处理不确定发现方面具有特殊优势。这项工作展示了一条通过策略性结合LLM能力和通过蒸馏训练的高效学生模型，来克服数据标注瓶颈并实现高性能医学文本处理的有前景路径。
引用
@article{arxiv.2505.01693,
title = {High-Fidelity Pseudo-label Generation by Large Language Models for Training Robust Radiology Report Classifiers},
author = {Brian Wong and Kaito Tanaka},
journal= {arXiv preprint arXiv:2505.01693},
year = {2025}
}