TargetDrop:一种面向卷积神经网络的有针对性正则化方法
计算机视觉与模式识别
2020-10-22 v1
摘要
Dropout正则化在深度学习中已被广泛应用,但对于卷积神经网络效果较差,因为空间相关特征使得被丢弃的信息仍可通过网络流动。为此已提出一些结构化形式的dropout,但由于特征是随机丢弃的,容易导致过正则化或欠正则化。本文提出一种名为TargetDrop的有针对性正则化方法,其结合注意力机制来丢弃具有判别性的特征单元。具体而言,它掩蔽掉特征图中对应于目标通道的目标区域。与其他方法对比或应用于不同网络的实验结果表明了我们所提方法的正则化效果。
关键词
引用
@article{arxiv.2010.10716,
title = {TargetDrop: A Targeted Regularization Method for Convolutional Neural Networks},
author = {Hui Zhu and Xiaofang Zhao},
journal= {arXiv preprint arXiv:2010.10716},
year = {2020}
}