通过廉价运算在异构设备上实现GhostNet
计算机视觉与模式识别
2022-06-09 v1
摘要
由于内存与计算资源有限，在移动设备上部署卷积神经网络（CNN）十分困难。我们旨在通过利用特征图中的冗余来为包括CPU和GPU在内的异构设备设计高效神经网络，而这一点在神经架构设计中鲜有探究。对于类CPU设备，我们提出一种新颖的CPU高效Ghost（C-Ghost）模块，以从廉价运算中生成更多特征图。基于一组本征特征图，我们应用一系列低成本的线性变换来生成许多能充分揭示本征特征底层信息的ghost特征图。所提出的C-Ghost模块可作为即插即用组件用于升级现有卷积神经网络。设计C-Ghost瓶颈来堆叠C-Ghost模块，随后可轻松构建轻量的C-GhostNet。我们进一步考虑面向GPU设备的高效网络。在构建阶段不引入过多GPU低效运算（例如深度可分离卷积），我们提出利用阶段级特征冗余来构建GPU高效Ghost（G-Ghost）阶段结构。一个阶段中的特征被分为两部分，其中第一部分使用输出通道更少的原始块处理以生成本征特征，另一部分则通过利用阶段级冗余的廉价运算生成。在基准上的实验证明了所提C-Ghost模块与G-Ghost阶段的有效性。C-GhostNet和G-GhostNet可分别实现CPU与GPU上精度和延迟的最优权衡。代码见 https://github.com/huawei-noah/CV-Backbones。
引用
@article{arxiv.2201.03297,
title = {GhostNets on Heterogeneous Devices via Cheap Operations},
author = {Kai Han and Yunhe Wang and Chang Xu and Jianyuan Guo and Chunjing Xu and Enhua Wu and Qi Tian},
journal= {arXiv preprint arXiv:2201.03297},
year = {2022}
}
备注
Accepted by IJCV 2022. Extension of GhostNet CVPR2020 paper (arXiv:1911.11907). arXiv admin note: substantial text overlap with arXiv:1911.11907