DropFilter：面向卷积层的 Dropout 方法
计算机视觉与模式识别
2018-10-24 v1
摘要
通过大量参数，深度神经网络在计算机视觉与自然语言处理任务上取得了卓越性能。然而，网络常因参数过多而出现过拟合。Dropout 是一种广泛使用的应对过拟合的方法。尽管 dropout 能显著正则化神经网络中的全连接层，但用于卷积层时会导致次优结果。为解决此问题，我们提出 DropFilter，一种面向卷积层的新 dropout 方法。DropFilter 随机抑制部分滤波器的输出。这是因为在卷积层中观察到协同适应更可能发生于滤波器之间而非滤波器内部。使用 DropFilter，我们显著提升了卷积网络在 CIFAR 与 ImageNet 上的性能。
引用
@article{arxiv.1810.09849,
title = {DropFilter: Dropout for Convolutions},
author = {Zhengsu Chen Jianwei Niu Qi Tian},
journal= {arXiv preprint arXiv:1810.09849},
year = {2018}
}