基于连续时间池化的感受野尺寸优化

池化操作是卷积神经网络的基石要素。这些要素为神经元生成感受野，在感受野内局部扰动应对输出激活影响最小，从而提升网络的鲁棒性与不变性。本文中我们将呈现最常用方法——最大池化的一种改进版本，其中池化在理论上被一个连续时间微分方程替代，该方程生成一种位置敏感的池化操作，更近似于生物感受野。我们将展示该连续方法如何使用离散操作在数值上近似，这些离散操作非常契合GPU。在我们的方法中，核尺寸被扩散强度这一连续值参数所替代，从而可通过梯度下降算法优化。我们将使用常用网络架构与数据集评估连续池化对准确率与计算需求的影响。