基于知识驱动差分滤波器采样器的CNN高效滤波剪枝
计算机视觉与模式识别
2023-07-04 v1
摘要
滤波剪枝可同时加速 CNN 的计算并降低其内存开销，能够有效应用于边缘设备和云服务。本文提出一种新颖的用于滤波剪枝的知识驱动差分滤波器采样器（KDFS）与掩码滤波器建模（MFM）框架，该框架基于预训练模型的先验知识，以差分且非交替的优化方式全局剪除冗余滤波器。具体而言，我们设计了一个具有可学习采样参数的差分采样器，为每一层构建二值掩码向量，以判定相应滤波器是否冗余。为学习该掩码，我们引入掩码滤波器建模，通过对齐来自预训练教师模型的中间特征与以采样特征为输入的学生解码器输出，构建类 PCA 的知识。掩码与采样器由 Gumbel-Softmax Straight-Through 梯度估计器结合全局剪枝约束、MFM 重建误差及暗知识以端到端方式直接优化。大量实验证明了所提 KDFS 在各种数据集上压缩基础模型的有效性。例如，在 ImageNet 上剪枝后的 ResNet-50 实现了 的计算量削减与 的参数削减，而 Top-1 准确率仅下降 ，显著优于当前最优方法。代码见 \url{https://github.com/Osilly/KDFS}。
引用
@article{arxiv.2307.00198,
title = {Filter Pruning for Efficient CNNs via Knowledge-driven Differential Filter Sampler},
author = {Shaohui Lin and Wenxuan Huang and Jiao Xie and Baochang Zhang and Yunhang Shen and Zhou Yu and Jungong Han and David Doermann},
journal= {arXiv preprint arXiv:2307.00198},
year = {2023}
}