情境信道容量：理解灾难性遗忘的信息论框架

灾难性遗忘仍是持续学习（CL）中的核心挑战，但缺乏统一的信息论解释来解释为何某些体系结构会发生灾难性遗忘，而另一些则不会。我们引入了情境信道容量（$C_\mathrm{ctx}$），即CL体系结构的上下文信号与其生成参数之间的互信息，并证明零遗忘要求$C_\mathrm{ctx} \geq H(T)$，其中$H(T)$为任务身份熵。我们建立了一个不可避免的三角形——零遗忘、在线学习和有限参数无法同时被顺序状态学习者满足——并展示了条件再生体系结构（HyperNetwork）通过将参数重新定义为函数值而绕过这一三角形。我们在Split-MNIST（1,130+实验，跨86天，每个实验4个随机种子）上验证了这一框架，显示$C_\mathrm{ctx}$完美预测了遗忘行为：具有$C_\mathrm{ctx} = 0$的NaiveSGD、EWC、SI、LwF、CFlow等方法表现出灾难性遗忘（6%--97%），而具有$C_\mathrm{ctx} \approx 1$的HyperNetwork方法实现了零遗忘（98.8%准确率）。我们进一步提出了错误情境探针（P5），一种实用的$C_\mathrm{ctx}$测量诊断协议，并通过一种新颖的梯度情境编码器将框架扩展到CIFAR-10，缩小与神谕之间的鸿沟，从23.3pp降至0.7pp。我们提供了15多个封闭研究方向的系统分类——包括赫宾贝尔空结果（冻结随机特征优于学习特征）、CFlow的$\theta_0$-记忆现象，以及$S_N$对列专化的屏障——为社区提供精确诊断的负面结果。我们的核心设计原则：架构胜于算法——情境路径必须是结构性不可绕过的。