揭开神经网络滤波器剪枝的神秘面纱
计算机视觉与模式识别
2018-11-08 v1
摘要
基于滤波器幅值排序（例如 L1 范数）的卷积神经网络（CNN）常规滤波器剪枝方法，已被证明在降低计算负载方面极为有效。尽管有效，这些方法很少从滤波器功能性的角度进行分析。在本工作中，我们通过定性的滤波器功能解释来探究滤波器剪枝与重训练。我们发现，基于滤波器幅值的方法未能消除具有重复功能的滤波器。而重训练阶段实际上用于重构保留的滤波器，以对错误剪枝的关键滤波器进行功能补偿。借助提出的功能导向剪枝方法，我们进一步证实，通过精确处理滤波器功能冗余，可以在精度无明显下降的情况下剪枝 CNN，且重训练阶段并非必要。
引用
@article{arxiv.1811.02639,
title = {Demystifying Neural Network Filter Pruning},
author = {Zhuwei Qin and Fuxun Yu and ChenChen Liu and Xiang Chen},
journal= {arXiv preprint arXiv:1811.02639},
year = {2018}
}