利用粗排序加速卷积网络剪枝
计算机视觉与模式识别
2019-02-19 v1
摘要
基于通道的剪枝在加速深度卷积神经网络方面取得了显著成功，其流程是一种迭代的三步过程：排序、剪枝和微调。然而，这种迭代过程计算开销大。在本研究中，我们提出了一种基于粗排序的新型计算高效通道剪枝方法，该方法利用微调过程中的中间结果对滤波器的重要性进行排序，建立在具有数据驱动排序准则的最先进工作之上。本工作的目标不是提出一种基于特定通道剪枝方法的单一改进方案，而是引入一种适用于一系列通道剪枝方法的通用新框架。我们使用各种基准图像数据集（CIFAR-10、ImageNet、Birds-200和Flowers-102）和网络架构（AlexNet和VGG-16）评估所提方法在目标分类上的表现。实验结果表明，所提方法可取得与相应最先进工作（基线）几乎相同的性能，而我们的排序时间可忽略不计。具体而言，采用所提方法，整个剪枝过程的总计算时间对于CIFAR-10上的AlexNet和ImageNet上的VGG-16分别可减少75%和54%。我们的方法将显著促进剪枝实践，尤其在资源受限平台上。
引用
@article{arxiv.1902.06385,
title = {Speeding up convolutional networks pruning with coarse ranking},
author = {Zi Wang and Chengcheng Li and Dali Wang and Xiangyang Wang and Hairong Qi},
journal= {arXiv preprint arXiv:1902.06385},
year = {2019}
}
备注
Submitted to ICIP 2019