教导语言模型准确表达其不确定性
计算机视觉与模式识别
2026-03-03 v3
摘要
大型语言模型（LLM）常常误传达其不确定性：重复查询可产生差异化答案，但生成的响应通常不带保留语或以不反映这种变异性的方式保留。这是一种关于 LLM 知识不确定状态的不实信息，形成一种忠实性差距，即使对于强大的 LLM 亦如此。我们引入忠实不确定性调优（Faithful Uncertainty Tuning, FUT）：一种微调方法，教会指令调优 LLM 准确表达不确定性而不改变其底层答案分布。我们通过在模型样本上增强不确定性保留语（即如 'possibly' 或 'likely' 之类的语言线索），并根据样本一致性进行对齐来构建训练数据，仅需模型和一组提示词即可完成，无需额外监督。我们在多个模型和数据集上的开放域问答（QA）任务上评估 FUT。我们的结果表明，FUT 大幅减少了忠实性差距，同时保持 QA 准确率，并引入最小的语义分布偏移。进一步分析显示，在解码策略、选择保留语以及其他形式的不确定性表达（即数值）方面具有鲁棒性。这些发现表明 FUT 是一种简单且有效的教导 LLM 准确表达不确定性的方法。
引用
@article{arxiv.2510.12586,
title = {There is No VAE: End-to-End Pixel-Space Generative Modeling via Self-Supervised Pre-training},
author = {Jiachen Lei and Keli Liu and Julius Berner and Haiming Yu and Hongkai Zheng and Jiahong Wu and Xiangxiang Chu},
journal= {arXiv preprint arXiv:2510.12586},
year = {2026}
}