利用水平门控循环单元学习长程空间依赖

深度学习的进展在许多工程应用中取得了巨大成功。作为典型例子，卷积神经网络（一种前馈神经网络）目前在多种视觉识别任务上已接近甚至有时超越人类准确率。然而，我们在此表明，这些神经网络及其近期扩展在必须从长空间范围内检测相互依赖的视觉特征的识别任务中表现不佳。我们引入水平门控循环单元（hGRU）来学习内在的水平连接——包括特征列内部及跨特征列之间。我们证明，单个 hGRU 层匹配或优于所有受测试的前馈分层基线，包括参数量高出数个数量级的先进架构。我们进一步将 hGRU 与视觉皮层的解剖学数据以及人类在经典轮廓检测任务上的行为数据进行比较，讨论其生物学合理性。