利用冗余特征剪枝构建高效卷积网络
计算机视觉与模式识别
2018-02-22 v1
摘要
本文提出了一种通过消除冗余特征（或滤波器）来剪枝深层和/或宽卷积神经网络模型的高效技术。先前的研究表明，尺寸过大的深度神经网络模型往往会产生大量冗余特征，这些特征彼此之间是平移版本，或者非常相似且几乎没有变化；从而导致滤波冗余。我们提出根据这些冗余特征在特征空间中的差异性和相对余弦距离，将其连同连接的特征图一起剪枝，从而得到更小的网络规模、更低的推理成本以及具有竞争力的性能。我们在选定的模型和 CIFAR-10 数据集上实证表明，VGG-16 的推理成本可降低 40%，ResNet-56 降低 27%，ResNet-110 降低 39%。
引用
@article{arxiv.1802.07653,
title = {Building Efficient ConvNets using Redundant Feature Pruning},
author = {Babajide O. Ayinde and Jacek M. Zurada},
journal= {arXiv preprint arXiv:1802.07653},
year = {2018}
}