在 CNN 中学习滤波器尺度与方向

卷积神经网络有许多超参数，如滤波器大小、滤波器数量和池化大小，需要手动调优。尽管深层堆叠结构能够创建多尺度与层次化表示，但手动固定的滤波器大小限制了在单个卷积层中可学习的表示尺度。本文引入了一种新的自适应滤波器模型，允许可变尺度与方向。滤波器的尺度和方向参数可使用反向传播学习。因此，在单个卷积层中，我们可以创建不同尺度和方向的滤波器，以适应小型或大型特征与物体。所提模型对滤波器使用相对较大的基础尺寸（网格）。在网格中，一个可微函数充当滤波器的包络。该包络函数通过在卷积前掩蔽滤波器权重来引导有效的滤波器尺度和形状/方向。因此，在训练过程中仅更新包络内的权重。在这项工作中，我们采用多元（二维）高斯作为包络函数，并表明它可以通过在反向传播训练中更新其协方差矩阵来增长、收缩或旋转。我们在 MNIST、MNIST-cluttered 和 CIFAR-10 上测试了新的滤波器模型，并将结果与使用常规卷积层的网络进行比较。结果表明，新模型能够在单层中有效学习并生成不同尺度和方向的滤波器。此外，实验表明，自适应卷积层表现相当或更好，尤其在数据包含不同尺度物体和噪声背景时。