K 向能量探针在判别式预测编码网络中归约为 Softmax

我们以负结果和解释机制呈现此工作，而非形式上界。预测编码网络 (PCN) 允许进行 K 向能量探针：将每个候选类别固定为目标，运行推理至收敛，然后比较各假设能量。该探针看似读取比 Softmax 更丰富的信号来源，因为每个假设能量取决于整个生成链。我们认为这种表象在标准 Pinchetti 式判别式 PC 公式下是误导的。我们提出一种近似归约，表明在目标-clamped CE 能量训练和实际前馈潜在动力学下，K 向能量间隙分解为对数 Softmax 间隙的单调函数，加上一个未被训练与正确性相关的残差。分解预测结构探针应低于 Softmax。我们在 CIFAR-10 上进行了六种条件测试：扩展确定性训练、直接测量推理期间的潜在运动、后验解码器公平性控制（在反向传播网络上）、匹配预算的 PC 与 BP 比较、五点 Langevin 温度扫描以及轨迹积分 MCPC 训练。在所有条件下，探针都低于 Softmax。该间隙在判别式 PC 家族的训练程序中保持稳定。最终状态和轨迹积分训练产生的探针，其 AUROC_2 值在确定性评估下的差异小于 10^-3。实验规模较小：单随机种子、210 万参数网络、1280 测试图像。我们将结果作为预印本提交，邀请复制实验。我们讨论分解不适用的条件（双向 PC、前瞻配置、生成式 PC、非 CE 能量公式）以及分析不排除的结构探针的 productive 方向。