NetAdapt:面向移动应用的平台感知神经网络适配
计算机视觉与模式识别
2018-10-02 v2
摘要
本工作提出一种称为 NetAdapt 的算法,该算法在给定资源预算的情况下自动将预训练的深度神经网络适配到移动平台。尽管许多现有算法基于 MAC 数或权重数量来简化网络,但优化这些间接指标未必能减少直接指标,如延迟和能耗。为解决此问题,NetAdapt 将直接指标纳入其适配算法。这些直接指标通过经验测量进行评估,因此不需要平台和工具链的详细知识。NetAdapt 自动且逐步地简化预训练网络,直至满足资源预算,同时最大化准确率。实验结果表明,与最先进的自动化网络简化算法相比,NetAdapt 在移动 CPU 和移动 GPU 上均实现了更好的准确率-延迟权衡。对于 ImageNet 数据集上的图像分类,NetAdapt 在 MobileNets(V1 和 V2)上以相等或更高准确率实现了高达 1.7 的实测推理延迟加速。
引用
@article{arxiv.1804.03230,
title = {NetAdapt: Platform-Aware Neural Network Adaptation for Mobile Applications},
author = {Tien-Ju Yang and Andrew Howard and Bo Chen and Xiao Zhang and Alec Go and Mark Sandler and Vivienne Sze and Hartwig Adam},
journal= {arXiv preprint arXiv:1804.03230},
year = {2018}
}
备注
Accepted by ECCV 2018