卷积神经网络的滤波器组正则化

正则化技术被广泛用于提升深度卷积神经网络（DCNNs）的泛化性、鲁棒性与效率。本文提出一种通过结构化滤波器组来约束 DCNN 卷积核的新方法。与现有的 DCNN 核权重 $\ell_1$ 或 $\ell_2$ 最小化以及核正交性等忽略核内样本相关性的正则化方法相比，在 DCNN 正则化中使用滤波器组能够将 DCNN 卷积核塑造成自然图像的常见空间结构与特征（例如不同方向与频率的边缘或纹理）。另一方面，与直接将 DCNN 卷积核固定为滤波器不同，滤波器组正则化仍允许通过深度学习自由优化 DCNN 权重。这一新的 DCNN 设计策略旨在结合两方面的优势：引入传统滤波器组的结构化图像先验以提升 DCNN 解的鲁棒性与泛化性，以及利用现代深度学习对训练数据中隐藏的复杂非线性函数建模的能力。在目标识别任务上的实验结果表明，相较于权重衰减与核正交性等现有正则化方法，所提出的正则化方法引导 DCNN 更快收敛且泛化更好。