中文

FOX-NAS:快速、端侧且可解释的神经网络架构搜索

机器学习 2021-08-19 v1 计算机视觉与模式识别

摘要

神经网络架构搜索能够发现具有良好性能的神经网络,其中 One-Shot 方法颇为流行。One-Shot 方法通常需要一个带权重共享的超网以及预测架构性能的预测器。然而,以往方法耗费大量时间来生成性能预测器,因而效率低下。为此,我们提出 FOX-NAS,其由基于模拟退火与多元回归的快速且可解释的预测器组成。我们的方法对量化友好,并可高效部署到边缘端。在不同硬件上的实验表明,FOX-NAS 模型优于其他一些流行的神经网络架构。例如,FOX-NAS 在边缘 CPU 上以比 MobileNetV2 和 EfficientNet-Lite0 低 240% 和 40% 的延迟达到了与之匹配的精度。FOX-NAS 是 2020 年低功耗计算机视觉挑战赛(LPCVC)DSP 分类赛道的第三名。所有评估结果见 https://lpcv.ai/competitions/2020。搜索代码与预训练模型发布于 https://github.com/great8nctu/FOX-NAS。

关键词

引用

@article{arxiv.2108.08189,
  title  = {FOX-NAS: Fast, On-device and Explainable Neural Architecture Search},
  author = {Chia-Hsiang Liu and Yu-Shin Han and Yuan-Yao Sung and Yi Lee and Hung-Yueh Chiang and Kai-Chiang Wu},
  journal= {arXiv preprint arXiv:2108.08189},
  year   = {2021}
}

备注

Accepted by ICCV 2021 Low-Power Computer Vision Workshop