大语言模型不确定性解剖
人工智能
2026-03-27 v1
摘要
理解大语言模型(LLM)对响应持有不确定性的原因对于可靠部署至关重要。当前方法要么提供单个不确定性得分，要么依赖经典的aleatoric-epistemic二分法，无法为改进生成模型提供可操作的见解。近期研究还表明，这些方法对于理解LLM中的不确定性不够。本文提出一种不确定性分解框架，将LLM不确定性解剖为三个 distinct的语义组成部分：(i) 输入歧义，源于模糊提示；(ii) 知识缺口，由Insufficient parametric evidence导致；(iii) 解码随机性，源于随机抽样。通过一系列实验，我们展示这些组成部分的主导地位会随模型规模和任务而变化。我们的框架为更好地审计LLM可靠性和检测幻觉提供了可能的路径，为有针对性的干预和更可信的系统铺平了道路。
引用
@article{arxiv.2603.24967,
title = {The Anatomy of Uncertainty in LLMs},
author = {Aditya Taparia and Ransalu Senanayake and Kowshik Thopalli and Vivek Narayanaswamy},
journal= {arXiv preprint arXiv:2603.24967},
year = {2026}
}
备注
10 pages, 6 figures