微调而非提示：用于识别临床笔记中偏见语言的语言模型
计算与语言
2026-03-12 v1
摘要
临床文档可能包含带有污名化或特权化情感色彩的语言。我们提出一种用于检测和分类此类语言的框架，将其标记为污名化、特权化或中性。我们构建了一个带有情感价值评分的偏见术语精选词汇表。随后利用词汇表匹配从产科分娩记录（纽约山西医院）和 MIMIC-IV 出院记录中提取文本块，覆盖多个科室。三位临床医生注释了所有文本块，使我们能够描绘不同科室和医疗机构之间的价值模式。我们对比评估了多种分类策略（零样本提示、情境学习和监督式微调），针对编码器模型（GatorTron）和生成式大语言模型（Llama）进行测试。使用词汇引导输入进行微调始终优于提示方法。GatorTron 在产科测试集上达到 0.96 的 F1 分数，超越了更大的生成式模型，同时仅需极少的提示工程和更少的计算资源。外部验证在 MIMIC-IV 上显示跨领域泛化性有限（F1 < 0.70，下降 44%）。在更广泛的 MIMIC-IV 数据集上进行训练可提高泛化性（在产科测试上 F1 = 0.71，下降 11%），但以牺牲精度为代价。我们的发现表明，微调在情感价值分类方面优于提示方法，且模型必须适应特定医学科室才能实现临床上恰当的性能。相同术语在不同科室下可能承载不同的情感价值：在一个语境中具有临床意义的词汇，在另一个语境中可能具有污名化意义。对于偏见检测而言，若误分类风险削弱临床医生信任或延续患者伤害，针对这些语义偏移进行科室特定微调是必不可少的。* 合作贡献。
引用
@article{arxiv.2603.10004,
title = {Fine-Tune, Don't Prompt, Your Language Model to Identify Biased Language in Clinical Notes},
author = {Isotta Landi and Eugenia Alleva and Nicole Bussola and Rebecca M. Cohen and Sarah Nowlin and Leslee J. Shaw and Alexander W. Charney and Kimberly B. Glazer},
journal= {arXiv preprint arXiv:2603.10004},
year = {2026}
}