推理语言模型中结果的时序预测

链式思维（CoT）范式通过诱导逐步理由作为推理的代理，不断细化模型对解决方案的潜在表示。然而，究竟在 Large Language Model（LLM）内部多早后就就提交最终结果仍不明确。我们通过在推理标记的前 t 个隐藏状态上训练线性分类器来探测这一点，表明即使需要更长的输出才能得出明确答案，最终的正确性也仅通过少量标记即可高度预测。我们指出，对于较难的问题，预测准确率的下降揭示了一种选择性偏差：较难的题目在较长的 CoT 中被不成比例地代表。总体而言，本研究表明，对于推理模型，内部对成功的自我评估仅在少量标记后便会显现，对解释性以及推理时间控制都有所启示。