一种用于加速卷积神经网络的一步式剪枝-恢复框架
计算机视觉与模式识别
2019-06-19 v1
摘要
卷积神经网络的加速在过去几年中受到越来越多的关注。在各种加速技术中，滤波器剪枝因能有效减少卷积滤波器的数量而具有其固有优势。然而，大多数滤波器剪枝方法借助繁琐且耗时的逐层剪枝-恢复策略来避免准确率的显著下降。本文提出一种高效的滤波器剪枝框架以解决该问题。我们的方法以一步式剪枝-恢复的方式加速网络，并带有新颖的优化目标函数，与现有剪枝方法相比以低得多的代价实现了更高的准确率。此外，我们的方法允许通过全局滤波器剪枝进行网络压缩。给定全局剪枝率，它可自适应地确定每个单独卷积层的剪枝率，而这些比率在先前的方法中常作为超参数设定。在 VGG-16 和 ResNet-50 上使用 ImageNet 进行评估，我们的方法在相同甚至更少得多的浮点运算次数（FLOPs）下以更小的准确率下降优于几种最先进（SOTA）的方法。
引用
@article{arxiv.1906.07488,
title = {A One-step Pruning-recovery Framework for Acceleration of Convolutional Neural Networks},
author = {Dong Wang and Lei Zhou and Xiao Bai and Jun Zhou},
journal= {arXiv preprint arXiv:1906.07488},
year = {2019}
}