移动生态系统通用模型：MobileNetV4
太阳与恒星天体物理
2024-04-17 v1
摘要
我们推出了最新一代MobileNets，称为MobileNetV4（MNv4），其核心是为移动设备设计的通用高效架构。我们引入了统一倒置瓶颈（UIB）搜索块，这是一个统一且灵活的结构，融合了倒置瓶颈（IB）、ConvNext、前馈网络（FFN）以及一种新颖的额外深度卷积（ExtraDW）变体。与UIB一起，我们提出了移动MQA，这是一个为移动加速器量身定制的注意力模块，可带来显著的36%加速。我们还引入了一种优化的神经架构搜索（NAS）方法，提高了MNv4的搜索效率。UIB、移动MQA和改进的NAS配方的整合，产生了一系列新的MNv4模型，这些模型在移动CPU、DSP、GPU以及苹果神经引擎和谷歌Pixel EdgeTPU等专用加速器上大多达到帕累托最优——这是其他测试模型所不具备的特性。为了进一步提升精度，我们引入了一种新颖的蒸馏技术。借助该技术，我们的MNv4-Hybrid-Large模型在ImageNet-1K上达到了87%的准确率，而在Pixel 8上的EdgeTPU运行时仅为3.8毫秒。
关键词
引用
@article{arxiv.2404.10517,
title = {Magnetic Evolution of an Active Region Producing Successive Flares and Confined Eruptions},
author = {Marcelo López Fuentes and Mariano Poisson and Cristina H. Mandrini},
journal= {arXiv preprint arXiv:2404.10517},
year = {2024}
}
备注
Accepted for publication in Solar Physics