SCAN-Edge: 通过硬件感知进化搜索为多样化边缘设备寻找MobileNet速度的混合网络
机器学习
2024-08-29 v1 人工智能
摘要
为各种低成本商用边缘设备设计低延迟、高效率的混合网络既昂贵又繁琐,因此采用了硬件感知的神经架构搜索(NAS)来寻找最优架构。然而,由于硬件设计、支持的操作和编译优化的多样性,为广泛的边缘设备统一NAS面临挑战。现有方法通常固定架构选择的搜索空间(例如,激活、卷积或自注意力),并使用硬件无关的代理(例如FLOPs)来估计延迟,这无法在各种边缘设备上实现所宣称的延迟。为解决此问题,我们提出SCAN-Edge,一个统一的NAS框架,联合搜索自注意力、卷积和激活,以适应包括基于CPU、GPU和硬件加速器系统在内的各种边缘设备。为处理大型搜索空间,SCAN-Edge依赖于一个硬件感知的进化算法,该算法提高搜索空间的质量以加速采样过程。在大规模数据集上的实验表明,我们的混合网络在各种商用边缘设备上,对于224x224输入分辨率,匹配了实际MobileNetV2的延迟。
引用
@article{arxiv.2408.15395,
title = {SCAN-Edge: Finding MobileNet-speed Hybrid Networks for Diverse Edge Devices via Hardware-Aware Evolutionary Search},
author = {Hung-Yueh Chiang and Diana Marculescu},
journal= {arXiv preprint arXiv:2408.15395},
year = {2024}
}