MnasNet：面向移动端的平台感知神经架构搜索
计算机视觉与模式识别
2019-05-30 v3 机器学习
摘要
为移动设备设计卷积神经网络（CNN）具有挑战性，因为移动模型需要小巧、快速且仍保持准确。尽管已在各个维度上投入大量精力来设计和改进移动CNN，但当存在众多架构可能性需要考虑时，手动平衡这些权衡非常困难。本文提出一种自动化移动神经架构搜索（MNAS）方法，其将模型延迟显式纳入主要目标，使搜索能识别出在准确率和延迟之间取得良好权衡的模型。与以往通过另一个常不准确的代理（如FLOPS）来考虑延迟的工作不同，我们的方法通过在手机上执行模型直接测量真实世界的推理延迟。为了进一步在灵活性与搜索空间大小之间取得恰当平衡，我们提出了一种新颖的分解分层搜索空间，以鼓励整个网络中的层多样性。实验结果表明，我们的方法在多个视觉任务上持续优于最先进的移动CNN模型。在ImageNet分类任务上，我们的MnasNet在Pixel手机上以78ms延迟达到75.2%的top-1准确率，比MobileNetV2 [29]快1.8倍且准确率高0.5%，比NASNet [36]快2.3倍且准确率高1.2%。我们的MnasNet在COCO目标检测上也比MobileNets取得更好的mAP质量。代码见 https://github.com/tensorflow/tpu/tree/master/models/official/mnasnet
引用
@article{arxiv.1807.11626,
title = {MnasNet: Platform-Aware Neural Architecture Search for Mobile},
author = {Mingxing Tan and Bo Chen and Ruoming Pang and Vijay Vasudevan and Mark Sandler and Andrew Howard and Quoc V. Le},
journal= {arXiv preprint arXiv:1807.11626},
year = {2019}
}
备注
Published in CVPR 2019