CNNPruner:基于可视分析卷积神经网络的剪枝方法
计算机视觉与模式识别
2020-09-22 v1 图形学
摘要
卷积神经网络(CNNs)在许多计算机视觉任务中展现出了卓越的性能。然而,CNN模型规模的不断增长阻碍了它们在计算资源受限的设备(如移动/嵌入式设备)上的广泛部署。新兴的模型剪枝(model pruning)课题致力于通过移除较不重要的神经元并微调剪枝后的网络以最小化精度损失来解决这一问题。尽管如此,现有的自动化剪枝方案往往依赖于剪枝准则的数值阈值,缺乏灵活最优地平衡模型规模与精度之间权衡的能力。此外,神经元剪枝与模型微调阶段之间复杂的相互作用使得该过程不透明,因此难以优化。在本文中,我们通过一种名为CNNPruner的可视分析方法应对这些挑战。它通过不稳定性和敏感性两方面考量卷积滤波器的重要性,并允许用户根据对模型规模或精度的期望目标交互式地制定剪枝方案。同时,CNNPruner集成了最先进的滤波器可视化技术,以帮助用户理解不同滤波器所扮演的角色并改进其剪枝方案。通过对具有真实规模的CNN进行全面案例研究,我们验证了CNNPruner的有效性。
引用
@article{arxiv.2009.09940,
title = {CNNPruner: Pruning Convolutional Neural Networks with Visual Analytics},
author = {Guan Li and Junpeng Wang and Han-Wei Shen and Kaixin Chen and Guihua Shan and Zhonghua Lu},
journal= {arXiv preprint arXiv:2009.09940},
year = {2020}
}
备注
10 pages,15 figures, Accepted for presentation at IEEE VIS 2020