绍伊甸的语言模型推理解剖学

大型语言模型日益暴露推理痕迹，但其 underlying 的认知结构和步骤仍难以识别和分析，仅能进行表面级统计。我们采用绍伊甸的剧集理论作为一种归纳的、中等规模的 lens，并引入ThinkARM（语言模型中推理解剖学），构建一个可扩展的框架，显式地将推理痕迹抽象为分析、探索、实现、验证等功能性推理步骤。当应用于不同模型的数学问题解决时，这种抽象揭示了可复现的思维动力学以及推理与非推理模型之间的结构差异，这些差异在基于 token 级别的视图中并不明显。我们进一步提出两个诊断性案例研究，表明探索功能作为正确性相关的关键分支步骤，而效率导向的方法则选择性地抑制评估性反馈步骤，而非均匀缩短响应。总之，我们的结果表明，剧集水平的表示使推理步骤显式化，能够系统性地分析推理如何被结构化、稳定化以及在现代语言模型中被改变。