卷积神经网络的剪枝准则融合方法
计算机视觉与模式识别
2021-07-13 v1 人工智能
机器学习
摘要
卷积神经网络（CNNs）在各种视觉应用上的进展引起了广泛关注。然而大多数 CNN 无法满足实际部署的严格要求。为此，近期流行的网络剪枝是减少模型冗余的有效方法。但是，根据不同剪枝准则对滤波器按“重要性”排序可能不一致。某个滤波器依据某一准则可能很重要，而依据另一准则则非必要，这表明每个准则仅是综合“重要性”的局部视角。受此启发，我们提出一种通过探索准则多样性来整合现有滤波器剪枝准则的新框架。该框架包含两阶段：准则聚类与滤波器重要性校准。首先，我们基于“重要性”得分的排序通过逐层聚类来浓缩剪枝准则。其次，在每个簇内，我们提出一个校准因子来调整各候选融合准则的显著性，并通过进化算法搜索最优融合准则。在 CIFAR-100 和 ImageNet 基准上的定量结果表明，就剪枝后紧凑模型的性能而言，我们的框架优于最先进的基线。
引用
@article{arxiv.2107.05033,
title = {Blending Pruning Criteria for Convolutional Neural Networks},
author = {Wei He and Zhongzhan Huang and Mingfu Liang and Senwei Liang and Haizhao Yang},
journal= {arXiv preprint arXiv:2107.05033},
year = {2021}
}