从熵到校准不确定性：训练语言模型以推理不确定性
机器学习
2026-03-09 v1 人工智能
摘要
能够表达可解释且校准不确定性的大语言模型（LLM）在高风险领域至关重要。虽然存在计算不确定性的后处理方法，但它们往往基于抽样，计算昂贵或缺乏校准。我们提出了一个三阶段管道，用于后训练 LLM 以高效推断其响应的校准不确定性估计。首先，我们在训练数据上计算基于熵的细粒度不确定性得分，捕捉模型输出在嵌入空间中的分布性变动性。其次，这些得分通过 Platt 比例进行校准，产生可靠且人类可解释的不确定性信号。最后，通过可验证的奖励函数，将目标 LLM 后训练，以将其策略与这些校准信号对齐。不同于后处理不确定性估计方法，我们的方法在测试时提供可解释且计算效率高的不确定性估计。实验表明，使用我们管道训练的模型在校准方面优于基线方法，并能在无需进一步处理的情况下泛化到未见任务，表明它们学习了稳健的不确定性推理行为。
引用
@article{arxiv.2603.06317,
title = {From Entropy to Calibrated Uncertainty: Training Language Models to Reason About Uncertainty},
author = {Azza Jenane and Nassim Walha and Lukas Kuhn and Florian Buettner},
journal= {arXiv preprint arXiv:2603.06317},
year = {2026}
}
备注
4 pages, submitted to AISTATS Workshop