熵轨迹形状预测LLM推理可靠性：基于链式思考不确定性动力学的诊断研究
计算与语言
2026-03-30 v2 机器学习
摘要
理解链式思考推理中的不确定性对于可靠部署大型语言模型至关重要。本文提出一种基于轨迹形状而非标量幅度的简单且有效的诊断方法。我们展示，该信号在实际中是可操作的、可解释的，并且在黑盒环境下获取成本低廉，同时在不同模型和数据集之间保持稳健。通过大量消融实验和跨域复制，我们证明了其对选择性预测和 triage 的有用性。我们的发现提供了关于推理任务中不确定性动力学的通用见解，特别关注数值和离散答案情境。
引用
@article{arxiv.2603.18940,
title = {Entropy trajectory shape predicts LLM reasoning reliability: A diagnostic study of uncertainty dynamics in chain-of-thought},
author = {Xinghao Zhao},
journal= {arXiv preprint arXiv:2603.18940},
year = {2026}
}