面向功能的卷积滤波器剪枝
机器学习
2019-09-13 v2 计算机视觉与模式识别
机器学习
摘要
卷积神经网络(CNN)的复杂结构带来了卓越的性能,但代价是密集的计算。由于此类结构中不可避免地存在显著冗余,许多工作被提出以剪枝卷积滤波器来降低计算成本。尽管极为有效,大多数工作仅基于卷积滤波器的定量特征,而高度忽视了单个滤波器特定功能的定性解释。在这项工作中,我们从不同视角解释了卷积滤波器的功能与冗余,并提出了一种面向功能的滤波器剪枝方法。通过大量实验结果,我们证明了卷积滤波器不论量级大小的定性重要性,展示了由重复滤波器功能导致的显著神经网络冗余,并分析了不适当重训练过程下滤波器功能缺陷。这种可解释的剪枝方法不仅相较以往的滤波器剪枝方法提供了出色的计算成本优化,而且解释了滤波器剪枝过程。
引用
@article{arxiv.1810.07322,
title = {Functionality-Oriented Convolutional Filter Pruning},
author = {Zhuwei Qin and Fuxun Yu and Chenchen Liu and Xiang Chen},
journal= {arXiv preprint arXiv:1810.07322},
year = {2019}
}