ReLeQ：一种用于神经网络深度量化的强化学习方法
机器学习
2020-04-17 v4 机器学习
摘要
深度神经网络(DNNs)在计算机视觉应用的推理任务中通常需要大量计算资源。量化可通过降低网络编码的位宽来显著减少DNN的计算与存储。近期研究确认，为每一层仔细选择量化级别可在将位宽压至八位以下的同时保持精度。然而，若无艰巨的人工努力，此种深度量化会导致显著的精度损失，使其处于效用存疑的境地。因此，深度量化开启了一个巨大的超参数空间（各层的位宽），对其探索是一大挑战。我们提出一种系统性方法来解决该问题，通过端到端深度强化学习框架(ReLeQ)自动化发现量化级别的过程。我们将策略优化方法适配于量化问题，并着重于在状态与动作空间、网络架构与训练框架的选择以及各类超参数调优中寻找最佳设计决策。我们展示了ReLeQ如何平衡速度与质量，并提供一种非对称通用解决方案，用于对多种多样的深度网络（AlexNet、CIFAR-10、LeNet、MobileNet-V1、ResNet-20、SVHN与VGG-11）进行量化，在 virtually 保持精度（=< 0.3%损失）的同时最小化计算与存储成本。借助这些DNN，ReLeQ使常规硬件相较8位执行实现2.2倍加速。类似地，定制DNN加速器相较8位运行实现2.0倍加速与能耗降低。这些令人鼓舞的结果标志着ReLeQ作为神经网络深度量化自动化的初步一步。
引用
@article{arxiv.1811.01704,
title = {ReLeQ: A Reinforcement Learning Approach for Deep Quantization of Neural Networks},
author = {Ahmed T. Elthakeb and Prannoy Pilligundla and FatemehSadat Mireshghallah and Amir Yazdanbakhsh and Hadi Esmaeilzadeh},
journal= {arXiv preprint arXiv:1811.01704},
year = {2020}
}
备注
Presented as a spotlight paper at NeurIPS Workshop on ML for Systems 2018