DVOLVER:高效的帕累托最优神经网络架构搜索
计算机视觉与模式识别
2019-02-06 v1
摘要
神经网络架构的自动搜索是一个长期的研究课题。除了它提供了比手工设计架构更快的替代方案这一事实外,它还能提升其效率,例如生成适用于移动设备的卷积神经网络 (CNN)。在本文中,我们提出一种多目标神经架构搜索方法,在受神经搜索中最先进发现启发的搜索空间中,寻找具有最佳精度与计算资源权衡的 CNN 模型族。我们的工作称为 Dvolver,它演化一个架构种群并迭代改进最优帕累托前沿的近似。将 Dvolver 应用于以模型精度和浮点运算次数作为目标函数,我们仅用 2.5 天就能在 ImageNet 上找到一组有竞争力的移动模型。在这些模型中,有一个架构在 ImageNet 上的 Top-1 精度与 NASNet-A mobile 相同,但浮点运算次数少 8%;另一个在 ImageNet 上的 Top-1 精度为 75.28%,在相同计算资源下超出最佳 MobileNetV2 模型 0.28%。
引用
@article{arxiv.1902.01654,
title = {DVOLVER: Efficient Pareto-Optimal Neural Network Architecture Search},
author = {Guillaume Michel and Mohammed Amine Alaoui and Alice Lebois and Amal Feriani and Mehdi Felhi},
journal= {arXiv preprint arXiv:1902.01654},
year = {2019}
}