可解释链式思考推理：关于状态感知推理动力学的实证分析

近期的链式思考（chain-of-thought, CoT）提示技术已使大型语言模型（LLM）能够进行多步骤推理。然而，这种推理的可解释性仍有限， prior work 主要关注局部 token 级归因，使得高层语义角色及其转换仍未得到充分探索。本文引入一种状态感知转换框架，将 CoT 轨迹抽象为结构化的潜在动力学。具体而言，为捕捉 CoT 推理中不断演变的语义，每一步推理通过对 token 级嵌入进行谱分析并聚类到语义连贯的潜在状态中。为刻画推理的全局结构，我们将其进程建模为马尔可夫链，从而获得一种结构化且可解释的推理过程视图。这种抽象支持多种分析，包括语义角色识别、时间模式可视化和一致性评估。