面向深度神经网络的条件自动化通道剪枝
计算机视觉与模式识别
2021-07-21 v2
摘要
模型压缩旨在减少深度网络的冗余以获得紧凑模型。近年来，通道剪枝已成为在资源受限设备上部署深度模型的主要压缩方法之一。大多数通道剪枝方法通常对模型所有层使用固定的压缩率，但这可能并非最优。为解决该问题，给定整个模型的目标压缩率，可以搜索每层的最优压缩率。然而，这些方法针对特定目标压缩率执行通道剪枝。当考虑多个压缩率时，它们必须重复多次通道剪枝过程，效率低下且不必要。为解决该问题，我们提出一种条件自动化通道剪枝（CACP）方法，通过单次通道剪枝过程获得具有不同压缩率的压缩模型。为此，我们开发了一个条件模型，该模型以任意压缩率作为输入并输出相应的压缩模型。在实验中，具有不同压缩率的所得模型始终优于通过为每个目标压缩率执行一次通道剪枝过程而由现有方法压缩的模型。
引用
@article{arxiv.2009.09724,
title = {Conditional Automated Channel Pruning for Deep Neural Networks},
author = {Yixin Liu and Yong Guo and Zichang Liu and Haohua Liu and Jingjie Zhang and Zejun Chen and Jing Liu and Jian Chen},
journal= {arXiv preprint arXiv:2009.09724},
year = {2021}
}