中文

SqueezeNext:硬件感知的神经网络设计

神经与进化计算 2021-04-21 v2

摘要

在嵌入式系统上部署神经网络的主要障碍之一是现有神经网络庞大的内存与功耗。本文引入了 SqueezeNext,一种新的神经网络架构家族,其设计受先前架构(如 SqueezeNet)以及在神经网络加速器上的仿真结果指导。该新网络能够以少 112×112\times 的参数在 ImageNet 基准上匹配 AlexNet 的准确率,且其更深的变体之一仅用 4.4 百万参数即可达到 VGG-19 的准确率(比 VGG-19 小 31×31\times)。与 MobileNet 相比,SqueezeNext 还以少 1.3×1.3\times 的参数实现了更好的 top-5 分类准确率,但避免了在某些移动处理器平台上效率低下的深度可分离卷积。这种宽泛的准确率范围赋予用户根据目标硬件上的可用资源进行速度与准确率权衡的能力。利用嵌入式系统上功耗与推理速度的硬件仿真结果,我们设计了基准模型的变体,相较于 SqueezeNet/AlexNet,其速度提升 2.59×2.59\times/8.26×8.26\times,能效提升 2.25×2.25\times/7.5×7.5\times,且无准确率下降。

关键词

引用

@article{arxiv.1803.10615,
  title  = {SqueezeNext: Hardware-Aware Neural Network Design},
  author = {Amir Gholami and Kiseok Kwon and Bichen Wu and Zizheng Tai and Xiangyu Yue and Peter Jin and Sicheng Zhao and Kurt Keutzer},
  journal= {arXiv preprint arXiv:1803.10615},
  year   = {2021}
}

备注

12 Pages