别再丢弃你的束: 通过束搜索提高基于一致性的LLM不确定性估计
机器学习
2026-05-08 v2 计算与语言
机器学习
摘要
一致性方法已成为大语言模型（LLM）中有效的不确定性量化（UQ）方法。这类方法通常依赖通过多项抽样获取的多个生成结果，衡量其一致性水平。然而，在短篇问答任务中，多项抽样容易产生重复样本，且其随机性在不同运行中的不确定性估计引入了 considerable 方差。我们引入了一系列新方法，采用束搜索生成候选方案，用于一致性基于的UQ，实现了相对于多项抽样的更好性能和更低方差。我们还提供了在束集合概率质量下，束搜索实现小于多项抽样误差的理论下界。在六个问答数据集上进行经验评估，发现其相对于多项抽样的持续性改进导致实现了该领域的SOTA UQ性能。
引用
@article{arxiv.2512.09538,
title = {Don't Throw Away Your Beams: Improving Consistency-based Uncertainties in LLMs via Beam Search},
author = {Ekaterina Fadeeva and Maiya Goloburda and Aleksandr Rubashevskii and Roman Vashurin and Artem Shelmanov and Preslav Nakov and Mrinmaya Sachan and Maxim Panov},
journal= {arXiv preprint arXiv:2512.09538},
year = {2026}
}