EfficientNet：重新思考卷积神经网络的模型缩放
机器学习
2020-09-14 v5 计算机视觉与模式识别
机器学习
摘要
卷积神经网络通常在固定的资源预算下开发，然后在有更多资源可用时进行扩展以获得更好的准确率。在本文中，我们系统地研究了模型缩放，并发现仔细平衡网络深度、宽度和分辨率可以带来更好的性能。基于这一观察，我们提出了一种新的缩放方法，该方法使用简单但高效的复合系数均匀缩放深度/宽度/分辨率的所有维度。我们展示了该方法在扩展 MobileNets 和 ResNet 上的有效性。为了更进一步，我们使用神经架构搜索设计了一个新的基线网络，并将其扩展以获得一系列模型，称为 EfficientNets，这些模型比以前的 ConvNets 获得了更好的准确率和效率。特别是，我们的 EfficientNet-B7 在 ImageNet 上实现了最先进的 84.3% top-1 准确率，同时比现有的最佳 ConvNet 小 8.4 倍且推理速度快 6.1 倍。我们的 EfficientNets 也具有良好的迁移能力，并在 CIFAR-100 (91.7%)、Flowers (98.8%) 和其他 3 个迁移学习数据集上实现了最先进的准确率，且参数量少了一个数量级。源代码位于 https://github.com/tensorflow/tpu/tree/master/models/official/efficientnet。
关键词
引用
@article{arxiv.1905.11946,
title = {EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks},
author = {Mingxing Tan and Quoc V. Le},
journal= {arXiv preprint arXiv:1905.11946},
year = {2020}
}
备注
ICML 2019