AsymmNet:基于非对称瓶颈的超低功耗卷积神经网络
计算机视觉与模式识别
2021-04-19 v1 机器学习
摘要
深度卷积神经网络(CNN)已在大量应用中取得惊人结果。然而,由于内存与计算资源有限,在这些模型上于移动或嵌入式设备使用十分困难。近来,倒残差块成为紧凑CNN架构设计的主流方案。本工作中,我们全面调研现有设计理念,重新思考倒残差中两个逐点卷积的功能特性。提出一种称为非对称瓶颈的新设计。具体而言,我们调整第一个逐点卷积维度,通过特征复用丰富信息流,并将节省的计算迁移至第二个逐点卷积。如此可在不增加计算开销下进一步提升精度。非对称瓶颈可作为即插即用的替代用于现有CNN块。因而我们可通过依恰当深度与宽度条件简单堆叠这些块来创建AsymmNet。大量实验表明,所提块设计比原始倒残差瓶颈更利于移动网络,尤其对计算量小于220M MAdds的那些超低功耗CNN有用。代码见 https://github.com/Spark001/AsymmNet
引用
@article{arxiv.2104.07770,
title = {AsymmNet: Towards ultralight convolution neural networks using asymmetrical bottlenecks},
author = {Haojin Yang and Zhen Shen and Yucheng Zhao},
journal= {arXiv preprint arXiv:2104.07770},
year = {2021}
}
备注
MAI@CVPR 2021