L2D-Clinical：用于临床文本分类的自适应模型选择学习 defer 机制
计算与语言
2026-04-16 v1 人工智能
摘要
临床文本分类需要在专业微调模型（BERT 变体）和通用大语言模型（LLM）之间做出选择, 但两者在所有实例上都不具备绝对优势。我们提出学习 defer 用于临床文本（L2D-Clinical）, 一个学习 BERT 分类器应在何时对 LLM 进行 defer 的框架, 基于不确定性信号和文本特征。不同于以人类专家为 defer 目标的先前 L2D 工作, 我们的做法使自适应 defer 成为可能, 在 LLM 能补充 BERT 的情况下提升准确性。我们在两个英文临床任务上进行评估: (1) ADE 检测（ADE Corpus V2）, 在该任务上 BioBERT（F1=0.911）优于 LLM（F1=0.765）; (2) 治疗结果分类（MIMIC-IV 多 LLM 共识基准）, 在该任务上 GPT-5-nano（F1=0.967）优于 ClinicalBERT（F1=0.887）。在 ADE 上, L2D-Clinical 实现 F1=0.928（比 BERT 高出 1.7 分）, 通过对 7% 的实例进行 defer, 在 LLM 高召回弥补 BERT 漏检的场景中提升性能。在 MIMIC 上, L2D-Clinical 实现 F1=0.980（比 BERT 高出 9.3 分）, 仅对 16.8% 的案例 defer 给 LLM。关键洞见在于, L2D-Clinical 学习如何有选择性地利用 LLM 的优势, 同时最小化 API 成本。
引用
@article{arxiv.2604.13285,
title = {L2D-Clinical: Learning to Defer for Adaptive Model Selection in Clinical Text Classification},
author = {Rishik Kondadadi and John E. Ortega},
journal= {arXiv preprint arXiv:2604.13285},
year = {2026}
}