解码即概率单纯形上的优化：从 Top-K 到 Top-P(核)到 Best-of-K 采样器
机器学习
2026-02-26 v2 人工智能
摘要
解码位于语言模型与我们所做的其他事物之间，却仍被当作经验性调参练习。我们认为解码应被视为原则化的优化层：在每个标记上，我们解决一个在概率单纯形上进行的正则化问题，在模型得分与结构偏好及约束之间进行权衡。这一单一模板可恢复性Greedy解码、Softmax采样、Top-K、Top-P以及Sparsemax式稀疏性作为特殊案例，并通过最优性条件解释它们的共同结构。更重要的是，该框架使得无需遵循传统经验即可轻松设计新的解码器。我们通过设计Best-of-K(BoK)，一个旨在多采样管道(自我一致性、重排序、验证器选择)的KL锚定覆盖目标来演示这一点。BoK目标是在固定K采样预算内覆盖良好备选方案的概率，从而提升实证性能。我们展示，这些样本可提高准确率，例如在高采样温度下 Qwen2.5-Math-7B 在 MATH500 上的准确率提升 18.6%。
引用
@article{arxiv.2602.18292,
title = {Decoding as Optimisation on the Probability Simplex: From Top-K to Top-P (Nucleus) to Best-of-K Samplers},
author = {Xiaotong Ji and Rasul Tutunov and Matthieu Zimmer and Haitham Bou-Ammar},
journal= {arXiv preprint arXiv:2602.18292},
year = {2026}
}