隐匿对象持久性：深层变换器流形中的拓扑相变、自由能原则与重整�群流

我们通过几何和统计物理的视角研究深层变换器语言模型中多步推理的出现。将隐藏状态轨迹视为在隐式黎曼流形上的流动，分析各层激活的协方差谱，其中 $C^{(\ell)}=\mathbb{E}[h^{(\ell)}h^{(\ell)^\top}]$，并跟踪与随机矩阵 bulk 之间的偏离。跨模型规模（1.5B--30B），我们观察到有效维度的显著降低，符合相变规律：基于稀疏性/局部化的序参数 $\Omega(h)=1-\|h\|_1/(\sqrt{d}\|h\|_2)$ 在足够大的模型中，在归一化深度 $\gamma_c\approx 0.42$ 附近 exhibits a discontinuity。我们将前向传递 formalize 为离散的 coarse-graining 映射，并将稳定的“概念盆地”与这种重整�-like 动力学的 fixed points 相关联。 resulting low-entropy regime 以谱尾坍缩和在表示空间中形成暂时、可重用的类对象结构特征，称为 Transient Class Objects（TCO）。我们提供将逻辑可分性与谱衰减相连接的理论条件，并通过对多个开放权重模型家族进行层wise探针来验证预测的签名。