扩散模型中类别特化的熵势签名

扩散模型并非在时间上均匀恢复语义结构。相反，样本在狭窄的时段内从语义模糊转向类别承诺。最近的理论工作将这一转变归因于沿类别分离方向上的动力学不稳定性，但用于检测和利用这些窗口的实用方法仍有限。我们表明，跟踪给定噪声状态下给定类条件熵的潜在语义变量，提供了这些转变 regime 的可靠签名。通过将熵限制在语义分区中，熵进一步能够分辨不同抽象层次上的语义决策。我们在高维高斯混合模型中分析该行为，表明熵率在与之前在方差保持扩散中识别的对称性破坏不稳定性相同的对数时间尺度上浓度集中。我们在 EDM2-XS 和 Stable Diffusion 1.5 上验证了该方法，类条件熵始终隔离了对语义结构形成至关重要的噪声 regime。最后，我们使用该框架量化引导如何在时间上重新分配语义信息。这些结果将信息论和统计物理视角联系起来，为时间局部化控制提供了原则性的基础。