具有持续权重更新的平衡传播

平衡传播是一种连接机器学习与神经科学的学习算法，通过计算与随时间反向传播（BPTT）高度匹配的梯度，但其学习规则在空间上是局部的。给定输入 $x$ 及其对应目标 $y$，EP 分为两个阶段进行：第一阶段神经元自由演化至第一稳态；第二阶段输出神经元被推向 $y$ 直至达到第二稳态。然而，在现有的 EP 实现中，学习规则在时间上并非局部的：权重更新在第二阶段动力学收敛后执行，且需要第一阶段中已无法在物理上获取的信息。在本文中，我们提出了一种名为持续平衡传播的 EP 版本，其中神经元与突触动力学在第二阶段全程同时发生，从而使权重更新在时间上成为局部的。这种在空间和时间上均局部的学习规则为 EP 极高能效的硬件实现开辟了可能。我们从理论上证明，只要学习率足够小，在第二阶段的每个时间步上，神经元与突触动力学均遵循 BPTT 给出的损失梯度（定理 1）。我们在 MNIST 上展示了 C-EP 的训练过程，并将 C-EP 推广至神经元间通过非对称连接相连的神经网络。我们通过实验表明，网络更新越遵循 BPTT 的梯度，其在训练方面的性能表现就越优异。这些结果使 EP 在保持与反向传播紧密联系的同时，更好地符合硬件约束，从而向生物学迈进了一步。