Deadwooding：深度神经网络的鲁棒全局剪枝
机器学习
2022-09-26 v4
摘要
深度神经网络逼近高度复杂函数的能力是其成功的关键。然而，这一优势以巨大的模型尺寸为代价，这对其在资源受限环境中的部署构成了挑战。剪枝是一种用于限制此问题的有效技术，但通常以降低准确性和对抗鲁棒性为代价。本文解决了这些缺点，并引入了 Deadwooding，一种新颖的全局剪枝技术，该技术利用拉格朗日对偶方法在保持准确性和确保鲁棒性的同时促进模型稀疏性。结果表明，所得到的模型在鲁棒性和准确性的度量上显著优于当前最先进的研究。
引用
@article{arxiv.2202.05226,
title = {Deadwooding: Robust Global Pruning for Deep Neural Networks},
author = {Sawinder Kaur and Ferdinando Fioretto and Asif Salekin},
journal= {arXiv preprint arXiv:2202.05226},
year = {2022}
}
备注
21 pages, 7 figures