通过代理变量揭示基于 LLM 的急诊科分诊中的潜在偏差
人工智能
2026-01-23 v1
摘要
大型语言模型（LLM）的最新进展使其能够整合到临床决策中；然而，针对不同种族、社会、经济和临床背景患者的隐性偏差依然存在。在本研究中，我们调查了应用于急诊科（ED）分诊的基于 LLM 的医疗 AI 系统中的偏差。我们采用 32 个患者层面的代理变量，每个变量由成对的正面和负面限定词表示，并视情况使用公开（MIMIC-IV-ED Demo, MIMIC-IV Demo）和受限访问认证（MIMIC-IV-ED 和 MIMIC-IV）数据集来评估其影响。我们的结果揭示了在急诊科分诊场景中由代理变量介导的歧视性行为，以及 LLM 在输入上下文中出现特定 token 时修改感知患者严重程度的系统性倾向，无论这些 token 是以正面还是负面形式表达。这些发现表明，AI 系统仍是在嘈杂、有时是非因果的信号上不完美地训练，这些信号不能可靠反映真实的患者敏锐度。因此，需要采取更多措施以确保 AI 技术在临床环境中的安全与负责任部署。
引用
@article{arxiv.2601.15306,
title = {Uncovering Latent Bias in LLM-Based Emergency Department Triage Through Proxy Variables},
author = {Ethan Zhang},
journal= {arXiv preprint arXiv:2601.15306},
year = {2026}
}
备注
15 pages, 3 figures