通过深度反馈控制在神经网络中进行信用分配

深度学习的成功引发了人们对大脑是否通过使用类似技术来对每个突触权重之于网络输出的贡献进行信用分配的兴趣。然而，当前大多数具有生物合理性的学习方法要么在时间上非局部，要么需要高度特定的连接动机，要么与任何已知数学优化方法无明显关联。在此，我们引入深度反馈控制(DFC)，一种新方法，其利用反馈控制器驱动深度神经网络匹配期望输出目标，且其控制信号可用于信用分配。所得学习规则在空间和时间上完全局部，并对广泛范围的反馈连接模式近似 Gauss-Newton 优化。为进一步强调其生物合理性，我们将 DFC 关联至皮层锥体神经元的多房室模型，该模型具有局部电压依赖性突触可塑性规则，与近期树突处理理论一致。通过将动力系统理论与数学优化理论结合，我们为 DFC 提供了坚实的理论基础，并以玩具实验和标准计算机视觉基准的详细结果予以佐证。