L2PF——学习更快剪枝
计算机视觉与模式识别
2021-01-08 v1 人工智能
摘要
自动驾驶领域的多种应用基于卷积神经网络（CNNs），尤其用于处理摄像头数据。此类 CNN 的优化是持续开发中的一大挑战。新学习到的特征必须尽快部署到车辆中，因此压缩期间耗费冗余 GPU 小时是不可行的。在此背景下，我们提出 Learning to Prune Faster（学习更快剪枝），详述了一种多任务、试错学习方法，离散地学习 CNN 的冗余滤波器，并连续动作决定各层需微调的时长。这使我们能显著加速学习寻找嵌入式友好的逐滤波器剪枝 CNN 的收敛过程。对于 ResNet20，我们实现了 3.84 倍的压缩比且精度下降极小。相较于最优（state-of-the-art）剪枝方法，我们将 GPU 小时减少了 1.71 倍。
引用
@article{arxiv.2101.02663,
title = {L2PF -- Learning to Prune Faster},
author = {Manoj-Rohit Vemparala and Nael Fasfous and Alexander Frickenstein and Mhd Ali Moraly and Aquib Jamal and Lukas Frickenstein and Christian Unger and Naveen-Shankar Nagaraja and Walter Stechele},
journal= {arXiv preprint arXiv:2101.02663},
year = {2021}
}