神经标定律的再正规化谱-壳动力学起源

神经标定律和双下降现象表明，深度网络训练遵循简单的宏观结构，尽管优化动力学高度非线性。我们直接从函数空间中的梯度下降法推导出这种结构。对于均方误差损失，训练误差演化为$\dot e_t=-M(t)e_t$，其中$M(t)=J_{\theta(t)}J_{\theta(t)}^{\!*}$，由网络雅可比矩阵引起的时间依赖自伴算子。运用卡托扰动理论，我们获得了在$M(t)$的瞬时特征基中的精确耦合模态ODE系统。为提取宏观行为，我们引入对数谱-壳粗化方法，并跟踪每个壳中误差能的平方分布。每个壳内部的微观相互作用在能量层面完全抵消，因此壳能仅通过耗散和外部壳间相互作用来演化。我们通过\emph{可再正规化壳动力学}假设形式化建模，累积的微观效应简化为壳边界上的受控净流。假设在相关分辨率范围内存在有效的幂律谱传输，壳动力学可获得具有移动分辨率前沿和显式标定指数的自相似解。该框架解释了神经标定律和双下降，并将懒惰（NTK 类）训练与特征学习统一为同一谱-壳动力学的两个极限。