频谱泄漏与对 CNN 中卷积核尺寸的反思
计算机视觉与模式识别
2021-07-30 v2 机器学习
摘要
CNN 中的卷积层实现线性滤波器，将输入分解为不同的频带。然而，大多数现代架构在优化关于卷积核尺寸与形状的模型选择时，忽视了滤波器设计的标准原则。在这项工作中，我们考虑 CNN 背景下由滤波操作中的加窗伪影所引起的著名频谱泄漏问题。我们表明，CNN 卷积核的小尺寸使其易受频谱泄漏影响，从而可能引入降低性能的伪影。为解决此问题，我们提出使用更大的卷积核尺寸并结合汉明窗函数以缓解 CNN 架构中的泄漏。我们通过在卷积层中简单使用标准窗函数，在包括 Fashion-MNIST、CIFAR-10、CIFAR-100 和 ImageNet 在内的多个基准数据集上展示了分类准确率的提升。最后，我们表明采用汉明窗的 CNN 对各种对抗攻击表现出更强的鲁棒性。
引用
@article{arxiv.2101.10143,
title = {Spectral Leakage and Rethinking the Kernel Size in CNNs},
author = {Nergis Tomen and Jan van Gemert},
journal= {arXiv preprint arXiv:2101.10143},
year = {2021}
}