意识到歧义：LLM 中医学问答的 Aleatoric 不确定性量化
计算与语言
2026-01-27 v1 人工智能
摘要
大型语言模型在医学问答中的部署严重受到模糊用户查询的制约，这是一种安全风险，显著降低高风险医疗环境中的答案准确性。本文通过将输入歧义关联至 aleatoric 不确定性 (AU)，formalizes 这一挑战——后者是源于输入不完整性而不可消除的不确定性。为促进此方向的研究，我们构建了 CV-MedBench，这是首个专用于研究医学问答中输入歧义的基准数据集。利用该基准，我们从表示工程的角度分析 AU，发现 AU 在 LLM 内部激活模式中被线性编码。基于这一洞见，我们引入一种新颖的 AU 指导的“在作答前澄清”框架，集成 AU-Probe——一个从隐藏状态直接检测输入歧义的轻量级模块。不同于现有不确定性估计方法，AU-Probe 无需微调 LLM 也无需多次前向传播，实现高效机制以主动请求用户澄清，显著提升安全性。广泛实验表明，该 QA 框架在四个开源 LLM 上有效，平均准确率提升 9.48%。本框架为安全医学问答提供了高效且稳健的解决方案，增强了健康相关应用的可靠性。代码已发布于 https://github.com/yaokunliu/AU-Med.git，CV-MedBench 数据集已在 Hugging Face 上发布于 https://huggingface.co/datasets/yaokunl/CV-MedBench。
关键词
引用
@article{arxiv.2601.17284,
title = {Mind the Ambiguity: Aleatoric Uncertainty Quantification in LLMs for Safe Medical Question Answering},
author = {Yaokun Liu and Yifan Liu and Phoebe Mbuvi and Zelin Li and Ruichen Yao and Gawon Lim and Dong Wang},
journal= {arXiv preprint arXiv:2601.17284},
year = {2026}
}
备注
Accepted at The Web Conference 2026 (WWW 2026)