用于特征长程整合的循环正交卷积

在卷积神经网络（CNNs）中，信息仅沿图像每个像素的小邻域流动，导致在到达网络深层之前无法对特征进行长程整合。我们提出了一种新颖的架构，能以少量层实现整幅图像上特征 $z$ 与位置 $(x,y)$ 之间灵活的信息流动。该架构使用三个正交卷积的循环，不仅在 $(x,y)$ 坐标中，也在 $(x,z)$ 和 $(y,z)$ 坐标中进行。我们将这样一系列循环堆叠起来得到我们的深度网络，命名为 CycleNet。由于这仅需要对标准卷积的轴进行置换，其性能可直接与 CNN 比较。在 CIFAR-10 和 ImageNet 数据集上的图像分类任务中，与规模相近的 CNN 相比，我们的模型取得了有竞争力的结果。我们假设长程整合有利于依据形状而非纹理识别物体，并展示 CycleNet 比 CNN 更好地迁移到风格化图像。在 Pathfinder 挑战中，远距离特征的整合至关重要，CycleNet 大幅优于 CNN。我们还表明，即使采用小卷积核，CycleNet 的 receptive fields（感受野）大小在一个循环后即达到最大，而传统 CNN 需要大量层。