EfficientNet-eLite：通过网候选搜索面向边缘设备的极轻量高效 CNN 模型
计算机视觉与模式识别
2020-09-17 v1
摘要
将卷积神经网络（CNN）嵌入边缘设备进行推理是一项极具挑战的任务，因为此类轻量硬件并非为处理这一繁重软件而生，而现代最先进 CNN 模型带来的通用开销正是如此。本文旨在以尽可能小的精度损失降低开销，提出一种新颖的网候选搜索（NCS）方法，通过分组概念与淘汰赛机制研究资源占用与性能之间权衡的替代方案。此外，NCS 可泛化至任意神经网络。实验中，我们收集从 EfficientNet-B0 缩放而来的候选 CNN 模型，通过宽度、深度、输入分辨率和复合缩放向下以不同方式缩小，应用 NCS 研究缩小的权衡。同时，得到一系列极轻量的 EfficientNet，称为 EfficientNet-eLite。为进一步以专用集成电路（ASIC）拥抱 CNN 边缘应用，我们调整 EfficientNet-eLite 的架构以构建更硬件友好的版本 EfficientNet-HF。在 ImageNet 数据集上的评估表明，所提 EfficientNet-eLite 与 EfficientNet-HF 均展现出优于以往最先进 CNN 的参数利用率与精度。特别地，EfficientNet-eLite 最小成员比现有最佳且最小的 MnasNet 更轻量，参数少 1.46 倍且精度高 0.56%。代码见 https://github.com/Ching-Chen-Wang/EfficientNet-eLite
引用
@article{arxiv.2009.07409,
title = {EfficientNet-eLite: Extremely Lightweight and Efficient CNN Models for Edge Devices by Network Candidate Search},
author = {Ching-Chen Wang and Ching-Te Chiu and Jheng-Yi Chang},
journal= {arXiv preprint arXiv:2009.07409},
year = {2020}
}