面向LLM推理可靠性的前缀安全贝叶斯信念跟踪：分离校准与排序
人工智能
2026-05-28 v1
摘要
长推理链在最终答案尚未知情前需要可靠性估计。我们研究基于前缀安全观测的前缀条件最终成功估计，。顺序贝叶斯信念跟踪(SBBT)校准观测似然性并递归更新两种状态信念，为标量得分、文本和自我验证标记、隐藏聚类、token池化探针以及潜在轨迹特征提供通用跟踪器。在生成的开源模型链路中测试MATH-500、GSM8K、AIME 2025和RIMO-N，概率质量与排序分离：仅基于得分的SBBT常常改善Brier分数，而AUROC的提升需要超越强前缀安全基线的结构感知证据。在最强的硬数学情境下，结构感知观测相对于标准前缀安全基线提升了+0.110的AUROC。在相同前缀分类器审计下，MATH-500文本标记和RIMO-N自我验证信号保持正向。综合这些发现，支持SBBT作为校准感知的在线推理框架，并暴露出证据情形：标量得分主要支持概率质量，而结构感知前缀信号在强前缀安全基线尚未吸收排序证据时才支持排序。
引用
@article{arxiv.2605.27712,
title = {Prefix-Safe Bayesian Belief Tracking for LLM Reasoning Reliability:Separating Calibration from Ranking},
author = {Zhenghan Song and Yunyi Li and Yulong Liu},
journal= {arXiv preprint arXiv:2605.27712},
year = {2026}
}