中文

SpArSe:面向资源受限微控制器的CNN稀疏架构搜索

机器学习 2019-05-30 v1 计算机视觉与模式识别

摘要

世界上绝大多数处理器实际上是微控制器单元(MCUs),它们广泛应用于从汽车到医疗设备和办公设备等领域中执行简单控制任务。物联网(IoT)有望通过微小、廉价的MCU将机器学习注入许多日常物品中。然而,这些资源匮乏的硬件平台严重限制了可部署机器学习模型的复杂度。例如,尽管卷积神经网络(CNNs)在许多视觉识别任务上取得了最先进(SOTA)的结果,但由于严重的有限内存限制,在MCU上进行CNN推理具有挑战性。为规避CNN相关的内存挑战,人们提出了各种替代方案以适配MCU的内存预算,但代价是预测精度。本文挑战了CNN不适合部署在MCU上的观点。我们证明,自动设计泛化良好且足够小以适配内存受限MCU的CNN是可能的。我们的稀疏架构搜索(Sparse Architecture Search)方法将神经架构搜索与剪枝结合在单一统一方法中,在四个流行的IoT数据集上学习到更优的模型。我们发现的CNN比先前方法更准确且最高小4.35×4.35\times,同时满足严格的MCU工作内存约束。

关键词

引用

@article{arxiv.1905.12107,
  title  = {SpArSe: Sparse Architecture Search for CNNs on Resource-Constrained Microcontrollers},
  author = {Igor Fedorov and Ryan P. Adams and Matthew Mattina and Paul N. Whatmough},
  journal= {arXiv preprint arXiv:1905.12107},
  year   = {2019}
}