预测-因果间隙：一个不可行性定理与大规模神经网络证据

我们报告了预测表征学习中的一种系统性失效模式。在 2695 种神经网络配置上进行训练以预测线性-高斯动态时，最优编码器跟随环境而非其所需建模的系统。平均因果忠诚度——即编码器敏感度分配给系统自由度的比例——为 0.49，仅有 2.5% 的配置超过 0.70。随维度增加，失效现象加剧：当 N=100 时，最优编码器变得因果致盲（忠诚度约为 $10^{-8}$），但预测误差降低了 92%。我们证明这并非优化副产物，而是预测目标的结构属性：当环境模式的速度或噪声水平低于系统模式时，目标函数的所有最小化者都会编码前者。表现此预测-因果间隙的动力学集合是参数空间中开集且具有正测度。在一个非线性 Duffing-GRU 实验中，未受约束的预测器在 55% 的任务中学习到环境主导的表征（置信区间 41--68%），而在操作性 grounding 条件下仅为 24%（p=2.3e-3）；在环境变化下，未受约束方法的平均分布外 MSE 增长为 1.82 倍，而操作性 grounding 方法仅为 1.00 倍。操作性 grounding——即将损失限制在系统可观测量上——部分抑制了间隙，但在不设明确系统-环境边界的情况下，因果忠诚度始终无法恢复。结果表明，预测-因果间隙是一种学习的结构性极限，对自监督表征学习、世界模型以及扩缩放范式都具有深远意义。