人工无容忍：临床文档中的歧视性语言扭曲了大语言模型的决策
计算与语言
2026-05-19 v1
摘要
大型语言模型 (LLM) 越来越多地被部署在临床决策支持和医疗文档等高风险领域。然而，这些模型针对细微语言变体的鲁棒性——尤其是人类编写临床笔记中常见的歧视性语言 (stigmatizing language, SL) ——仍然受到严重未探索。本文我们研究前沿 LLM 是否继承并传播这种人类偏见用于处理临床文本。我们系统评估了九个前沿 LLM，针对四种歧视性医疗疾病，使用注入不同强度和表型的 SL 的临床情景 (vignettes)。我们的结果表明，所有评估的模型都表现出显著偏见，临床决策显著倾向于较少侵略性的患者管理。值得注意的是，我们观察到对语言框架高度敏感，仅一个 SL 句子即可改变模型输出，揭示了明确的剂量-反应关系。此外，我们评估了标准的基于提示的缓解策略，包括链式思考 (Chain-of-Thought, CoT) 推理和模型自去偏。这些方法显示出有限的效果；模型在明确识别 SL 的同时仍然被潜在影响。我们的发现揭示了当前 LLM 在临床 NLP 中的公平性和鲁棒性方面的关键漏洞，强调了防止健康差异自动化的严格算法防护栏的必要性。
引用
@article{arxiv.2605.17228,
title = {Artificial Intolerance: Stigmatizing Language in Clinical Documentation Skews Large Language Model Decision-Making},
author = {Jen-tse Huang and Didi Zhou and Faith Kamau and Amy Oh and Anne R. Links and Mark Dredze and Mary Catherine Beach and Somnath Saha},
journal= {arXiv preprint arXiv:2605.17228},
year = {2026}
}
备注
9 pages