基于强化学习修剪深度神经网络的学习方法
人工智能
2020-07-22 v1 计算机视觉与模式识别
机器学习
神经与进化计算
摘要
本文提出 PuRL——一种基于深度强化学习（RL）的神经网络剪枝算法。与当前基于 RL 的模型压缩方法在每个回合结束时才向智能体提供反馈不同，PuRL 在每一步剪枝时均提供奖励。这使得 PuRL 在大幅缩短训练周期的同时，达到与当前最先进方法相当的稀疏度与精度。PuRL 在 ResNet-50 模型上实现超过 80% 的稀疏度，同时在 ImageNet 数据集上保持 75.37% 的 Top-1 精度。通过实验我们表明，PuRL 也能对 MobileNet-V2 等已有高效架构进行稀疏化。除性能表征实验外，我们还对构成 PuRL 底层马尔可夫决策过程调优的各项 RL 设计选择进行了讨论与分析。最后，我们指出 PuRL 使用简单，可轻松适配多种架构。
引用
@article{arxiv.2007.04756,
title = {Learning to Prune Deep Neural Networks via Reinforcement Learning},
author = {Manas Gupta and Siddharth Aravindan and Aleksandra Kalisz and Vijay Chandrasekhar and Lin Jie},
journal= {arXiv preprint arXiv:2007.04756},
year = {2020}
}
备注
Accepted at the ICML 2020 Workshop on Automated Machine Learning (AutoML 2020)