映射临床疑虑：在大语言模型中定位语言不确定性
计算与语言
2025-12-01 v1 人工智能
摘要
大语言模型 (LLMs) 越来越多地用于临床环境，语言不确定性的敏感性会影响诊断解释与决策。然而，关于此类 epistemic cues 在这些模型内部代表位置的了解仍很有限。与 uncertainty quantification 不同，后者衡量输出置信度，本工作考察输入侧对医学文本中语言不确定性的表征敏感性。我们构建了一个对比数据集，包含表述形式不同但 epistemic modality 变化的临床陈述（例如，'is consistent with' 与 'may be consistent with'）。我们提出 Model Sensitivity to Uncertainty (MSU)，一种 layerwise probing 指标，用于量化不确定性线索引起的激活水平变化。我们的结果表明，LLMs exhibit 结构化、深度相关的对临床不确定性敏感性，表明 epistemic 信息在更深的层中逐渐编码。这些发现揭示了语言不确定性在大语言模型中的内部表征方式，为模型的可解释性与 epistemic 可靠性提供了洞见。
引用
@article{arxiv.2511.22402,
title = {Mapping Clinical Doubt: Locating Linguistic Uncertainty in LLMs},
author = {Srivarshinee Sridhar and Raghav Kaushik Ravi and Kripabandhu Ghosh},
journal= {arXiv preprint arXiv:2511.22402},
year = {2025}
}
备注
Accepted to AAAI'26 SECURE-AI4H Workshop