基于交替方向乘子法的深度神经网络系统性权重剪枝
机器学习
2018-04-24 v2 计算机视觉与模式识别
摘要
我们提出一种利用交替方向乘子法（ADMM）的深度神经网络（DNNs）系统性权重剪枝框架。我们首先将DNNs的权重剪枝问题表述为约束非凸优化问题，然后采用ADMM框架进行系统性权重剪枝。我们表明，由于其提供的计算效率，ADMM非常适用于权重剪枝。与先前工作相比，我们在保持相同测试精度的同时实现了更高的压缩比，并具有更快的收敛速度。我们的模型发布于 https://github.com/KaiqiZhang/admm-pruning
引用
@article{arxiv.1802.05747,
title = {Systematic Weight Pruning of DNNs using Alternating Direction Method of Multipliers},
author = {Tianyun Zhang and Shaokai Ye and Yipeng Zhang and Yanzhi Wang and Makan Fardad},
journal= {arXiv preprint arXiv:1802.05747},
year = {2018}
}