利用历史数据加速基于强化学习的自动剪枝收敛
机器学习
2021-07-20 v1 人工智能
摘要
近年来，通道剪枝等神经网络压缩方案被广泛用于降低深度神经网络（DNN）的模型规模与计算复杂度，以应用于嵌入式系统等功耗受限场景。基于强化学习（RL）的自动剪枝被进一步提出，以自动化 DNN 剪枝过程，避免昂贵的人工设计工作。然而，基于 RL 的剪枝器涉及耗时的训练过程，且每个样本的高代价进一步加剧了该问题。这些障碍极大限制了基于 RL 的自动剪枝的实际应用。因此，本文提出一种高效的自动剪枝框架，通过利用先前自动剪枝过程的历史数据来解决该问题。在我们的框架中，首先通过迁移学习加速 RL 剪枝器的收敛；随后提出一种增强迁移学习方案，通过提升可迁移性进一步加快训练过程；最后提出一种辅助学习过程以提高 RL 智能体的样本效率。实验表明，我们的框架对 ResNet20 可加速自动剪枝过程 1.5-2.5 倍，对 ResNet56、ResNet18 和 MobileNet v1 等其他神经网络可加速 1.81-2.375 倍。
引用
@article{arxiv.2107.08815,
title = {Boosting the Convergence of Reinforcement Learning-based Auto-pruning Using Historical Data},
author = {Jiandong Mu and Mengdi Wang and Feiwen Zhu and Jun Yang and Wei Lin and Wei Zhang},
journal= {arXiv preprint arXiv:2107.08815},
year = {2021}
}