FrostNet：面向量化感知的网络架构搜索
机器学习
2020-12-01 v4 计算机视觉与模式识别
机器学习
摘要
INT8量化已成为在边缘设备上部署卷积神经网络（CNNs）以减少内存与计算资源占用的标准技术之一。通过分析现有面向移动端网络架构的量化性能，我们提出了关于网络架构对最优INT8量化重要性的问题。本文提出一种新的网络架构搜索（NAS）流程，以寻找同时保证全精度（FLOAT32）与量化（INT8）性能的网络。我们首先提出关键且简洁的优化方法以实现量化感知训练（QAT）：浮点统计量辅助（StatAssist）与随机梯度提升（GradBoost）。通过将基于梯度的NAS与StatAssist和GradBoost相结合，我们发现了一种量化高效的网络构建模块——Frost瓶颈。此外，我们将Frost瓶颈作为硬件感知NAS的构建模块，以获得量化高效的网络FrostNets，其在保持具有竞争力的FLOAT32性能的同时，相比其他面向移动端的网络展现出更优的量化性能。由于更高的延迟降低率（平均65%），我们的FrostNets在量化后取得了比现有CNNs更高、且延迟相当的识别准确率。
引用
@article{arxiv.2006.09679,
title = {FrostNet: Towards Quantization-Aware Network Architecture Search},
author = {Taehoon Kim and YoungJoon Yoo and Jihoon Yang},
journal= {arXiv preprint arXiv:2006.09679},
year = {2020}
}