只需概率：大型语言模型不确定性估计的概率-only 方法
机器学习
2025-11-12 v1
摘要
大型语言模型（LLM）在各种自然语言处理（NLP）任务中表现出强大的性能，但仍然容易产生幻觉，生成事实错误或误导性输出。不确定性估计，通常使用预测熵估计，是解决这一问题的关键方法。然而，现有方法往往需要多个样本或额外计算才能评估语义熵。本文提出一种高效、无需训练的不确定性估计方法，通过响应的前 K 个概率来近似预测熵。此外，我们采用自适应机制来确定 K，以提高灵活性并过滤掉低置信度的概率。在多个 LLM 上针对三个自由形式问答数据集进行实验，结果表明我们的方法在性能上优于昂贵的领先基线，旨在推动增强 LLM 可信度的目标。
引用
@article{arxiv.2511.07694,
title = {Probabilities Are All You Need: A Probability-Only Approach to Uncertainty Estimation in Large Language Models},
author = {Manh Nguyen and Sunil Gupta and Hung Le},
journal= {arXiv preprint arXiv:2511.07694},
year = {2025}
}