HALP：硬件感知延迟剪枝
计算机视觉与模式识别
2021-10-22 v1 机器学习
摘要
结构剪枝可简化网络架构并提升推理速度。我们提出硬件感知延迟剪枝（HALP），将结构剪枝表述为全局资源分配优化问题，旨在预定义预算下约束延迟的同时最大化精度。对于滤波器重要性排序，HALP利用延迟查找表追踪延迟降低潜力，并利用全局显著性脑分评估精度下降。两个指标在剪枝期间均可高效计算，使我们能在给定目标约束下将全局结构剪枝重构为奖励最大化问题。这使得该问题可通过我们增强的背包求解器求解，使HALP在剪枝效能与精度-效率权衡上超越先前工作。我们在分类与检测任务上、不同网络上、ImageNet和VOC数据集上检验了HALP。特别地，对于ImageNet上ResNet-50/-101剪枝，HALP将网络吞吐量分别提升/，top-1精度变化分别为/。对于VOC上SSD剪枝，HALP将吞吐量提升，仅下降 mAP。HALP持续优于先前方法，有时优势明显。
引用
@article{arxiv.2110.10811,
title = {HALP: Hardware-Aware Latency Pruning},
author = {Maying Shen and Hongxu Yin and Pavlo Molchanov and Lei Mao and Jianna Liu and Jose M. Alvarez},
journal= {arXiv preprint arXiv:2110.10811},
year = {2021}
}