WHC：卷积神经网络滤波器剪枝的加权混合准则
计算机视觉与模式识别
2023-02-17 v1 人工智能
摘要
滤波器剪枝因其在压缩和加速卷积神经网络方面的能力近年来受到越来越多的关注。各种数据无关准则，包括基于范数和基于关系的准则，被提出以剪除最不重要的滤波器。然而，这些最先进的准则未能充分考虑滤波器的相异度，从而可能导致性能下降。在本文中，我们首先通过示例分析了基于关系的准则的局限性，随后引入一种新的数据无关准则——加权混合准则（WHC），以解决基于范数和基于关系的准则的问题。通过考虑每个滤波器的幅值以及滤波器间的线性相关性，WHC 能够稳健地识别最冗余的滤波器，可安全剪除而不会给网络带来严重的性能下降。以简单一次性方式进行的广泛剪枝实验证明了所提 WHC 的有效性。特别地，WHC 可在 ImageNet 上剪枝 ResNet-50，在 top-5 准确率无任何性能损失的情况下减少超过 42% 的浮点运算量。
引用
@article{arxiv.2302.08185,
title = {WHC: Weighted Hybrid Criterion for Filter Pruning on Convolutional Neural Networks},
author = {Shaowu Chen and Weize Sun and Lei Huang},
journal= {arXiv preprint arXiv:2302.08185},
year = {2023}
}
备注
Accepted by ICASSP 2023