（终极）DNN 剪枝
机器学习
2019-06-07 v1 机器学习
摘要
DNN 剪枝可减小基于 DNN 的解决方案的内存占用与计算量，从而提升性能与能效。一种有效的剪枝方案应能够系统地移除不必要或冗余的连接和/或神经元，在精度无任何损失的前提下缩减 DNN 规模。本文中我们指出，先前的剪枝方案需要极其耗时的迭代过程，需多次重训练 DNN 以调优剪枝超参数。我们提出一种基于主成分分析（PCA）与各神经元连接相对重要性的 DNN 剪枝方案，可一次性自动找到优化后的 DNN，无需对手动调节多个参数。
引用
@article{arxiv.1906.02535,
title = {(Pen-) Ultimate DNN Pruning},
author = {Marc Riera and Jose-Maria Arnau and Antonio Gonzalez},
journal= {arXiv preprint arXiv:1906.02535},
year = {2019}
}