基于延迟-显著性背包的结构化剪枝

结构化剪枝可简化网络结构并提升推理速度。我们提出硬件感知延迟剪枝(HALP)，将结构化剪枝表述为一个全局资源分配优化问题，旨在最大化准确率的同时将目标设备上的延迟约束在预定义预算内。对于滤波器重要性排序，HALP利用延迟查找表追踪延迟降低潜力，并利用全局显著性分数衡量准确率下降。这两个指标在剪枝过程中都可被非常高效地评估，使我们能在给定目标约束下将全局结构化剪枝重新表述为奖励最大化问题。这使得该问题可通过我们改进的背包求解器求解，使HALP在剪枝效能与准确率-效率权衡上超越先前工作。我们在分类与检测任务上、不同网络上、ImageNet与VOC数据集上、不同平台上检验了HALP。特别地，对于ImageNet上ResNet-50/-101的剪枝，HALP将网络吞吐量分别提升$1.60\times$/$1.90\times$，top-1准确率变化分别为$+0.3\%$/$-0.2\%$。对于VOC上SSD的剪枝，HALP将吞吐量提升$1.94\times$，仅带来$0.56$ mAP下降。HALP持续优于现有技术，有时优势显著。项目页面见 https://halp-neurips.github.io/。