FOX-NAS:快速、端侧且可解释的神经网络架构搜索
机器学习
2021-08-19 v1 计算机视觉与模式识别
摘要
神经网络架构搜索能够发现具有良好性能的神经网络,其中 One-Shot 方法颇为流行。One-Shot 方法通常需要一个带权重共享的超网以及预测架构性能的预测器。然而,以往方法耗费大量时间来生成性能预测器,因而效率低下。为此,我们提出 FOX-NAS,其由基于模拟退火与多元回归的快速且可解释的预测器组成。我们的方法对量化友好,并可高效部署到边缘端。在不同硬件上的实验表明,FOX-NAS 模型优于其他一些流行的神经网络架构。例如,FOX-NAS 在边缘 CPU 上以比 MobileNetV2 和 EfficientNet-Lite0 低 240% 和 40% 的延迟达到了与之匹配的精度。FOX-NAS 是 2020 年低功耗计算机视觉挑战赛(LPCVC)DSP 分类赛道的第三名。所有评估结果见 https://lpcv.ai/competitions/2020。搜索代码与预训练模型发布于 https://github.com/great8nctu/FOX-NAS。
引用
@article{arxiv.2108.08189,
title = {FOX-NAS: Fast, On-device and Explainable Neural Architecture Search},
author = {Chia-Hsiang Liu and Yu-Shin Han and Yuan-Yao Sung and Yi Lee and Hung-Yueh Chiang and Kai-Chiang Wu},
journal= {arXiv preprint arXiv:2108.08189},
year = {2021}
}
备注
Accepted by ICCV 2021 Low-Power Computer Vision Workshop