层次残差利用类脑颤动性

我们提出了层次残差网络（HiResNets），这是一种具有不同层次之间长程残差连接的深度卷积神经网络。HiResNets 受 mammalian 大脑组织方式的启发，通过复制皮层层级中来自皮层下区域的直接连接来实现。我们展示，在包括 ResNets 在内的几种架构中加入层次残差，结果在准确率和学习速度上都有提升。对我们模型的详细分析揭示，它们通过学习相对于跳跃连接提供的压缩表示的特征图来实现层次颤动性。