SNF：通过搜索合适滤波器数量进行滤波器剪枝
计算机视觉与模式识别
2021-12-15 v1
摘要
卷积神经网络（CNN）存在大量参数冗余，滤波器剪枝旨在移除冗余滤波器，为CNN在终端设备上的应用提供可能。然而，以往工作更多关注设计滤波器重要性评价标准，再以固定剪枝率或固定数量剪除较不重要的滤波器以降低卷积神经网络的冗余，未考虑每层保留多少滤波器才是最合理选择。基于此，我们提出一种通过搜索合适滤波器数量（SNF）的新滤波器剪枝方法。SNF致力于为每层搜索最合理的保留滤波器数量，再依据特定准则剪枝滤波器。它能在不同FLOPs下裁剪最适配的网络结构。采用本方法的滤波器剪枝在CIFAR-10上取得最先进（SOTA）精度，并在ImageNet ILSVRC-2012上获得有竞争力的表现。基于ResNet-56网络的SNF在CIFAR-10上以52.94% FLOPs削减实现Top-1精度提升0.14%。在CIFAR-10上剪枝ResNet-110时，于减少68.68% FLOPs的同时亦提升Top-1精度0.03%。对于ImageNet，我们设定剪枝率为52.10% FLOPs，Top-1精度仅下降0.74%。代码见 https://github.com/pk-l/SNF。
引用
@article{arxiv.2112.07282,
title = {SNF: Filter Pruning via Searching the Proper Number of Filters},
author = {Pengkun Liu and Yaru Yue and Yanjun Guo and Xingxiang Tao and Xiaoguang Zhou},
journal= {arXiv preprint arXiv:2112.07282},
year = {2021}
}