UPDP: 面向CNN和视觉Transformer的统一渐进深度剪枝器
计算机视觉与模式识别
2024-01-15 v1 人工智能
摘要
传统的通过减少网络通道的通道剪枝方法难以有效剪枝具有深度卷积层和某些高效模块（如流行的倒残差块）的高效CNN模型。先前的通过减少网络深度的深度剪枝方法由于存在某些归一化层而不适合剪枝某些高效模型。此外，通过直接移除激活层来微调子网会破坏原始模型权重，阻碍剪枝模型实现高性能。为了解决这些问题，我们提出了一种针对高效模型的新型深度剪枝方法。我们的方法提出了一种新颖的块剪枝策略和子网的渐进训练方法。此外，我们将我们的剪枝方法扩展到视觉Transformer模型。实验结果表明，我们的方法在各种剪枝配置下始终优于现有的深度剪枝方法。我们通过将我们的方法应用于ConvNeXtV1获得了三个剪枝后的ConvNeXtV1模型，这些模型在可比推理性能下超越了大多数最先进的高效模型。我们的方法还在视觉Transformer模型上实现了最先进的剪枝性能。
引用
@article{arxiv.2401.06426,
title = {UPDP: A Unified Progressive Depth Pruner for CNN and Vision Transformer},
author = {Ji Liu and Dehua Tang and Yuanxian Huang and Li Zhang and Xiaocheng Zeng and Dong Li and Mingjie Lu and Jinzhang Peng and Yu Wang and Fan Jiang and Lu Tian and Ashish Sirasao},
journal= {arXiv preprint arXiv:2401.06426},
year = {2024}
}