MoGA：超越 MobileNetV3 的搜索
机器学习
2020-03-04 v4 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
MobileNet 的演进为移动端神经网络应用奠定了坚实基础。借助最新的 MobileNetV3，神经架构搜索再次宣称了其在网络设计中的优势地位。遗憾的是，至今所有移动端方法主要关注 CPU 延迟而非 GPU，然而后者在实践中更受青睐，因其速度更快、开销更低且干扰更少。考虑到目标硬件，我们提出首个移动端 GPU 感知（Mobile GPU-Aware, MoGA）神经架构搜索，以精确适配真实世界应用。此外，设计移动网络的根本目标在于通过最大化有限资源的利用来实现更优性能。追求更高能力同时约束时间消耗二者不可调和。我们通过加权进化技术缓解这一张力。而且，我们鼓励增加参数数量以获得更高表征能力。相较 MnasNet 仅需其 1/200 的 GPU 天数，我们获得了一系列在相似延迟约束下优于 MobileNetV3 的模型，即 MoGA-A 在 ImageNet 上达到 75.9% 的 top-1 准确率，MoGA-B 达到 75.5%，仅在移动 GPU 上多耗费 0.5 ms。MoGA-C 最好地证明了 GPU 感知特性：其达到 75.3%，且在 CPU 上更慢但在 GPU 上更快。模型与测试代码已发布于 https://github.com/xiaomi-automl/MoGA。
引用
@article{arxiv.1908.01314,
title = {MoGA: Searching Beyond MobileNetV3},
author = {Xiangxiang Chu and Bo Zhang and Ruijun Xu},
journal= {arXiv preprint arXiv:1908.01314},
year = {2020}
}
备注
Accepted by ICASSP2020