中文

AsymmNet:基于非对称瓶颈的超低功耗卷积神经网络

计算机视觉与模式识别 2021-04-19 v1 机器学习

摘要

深度卷积神经网络(CNN)已在大量应用中取得惊人结果。然而,由于内存与计算资源有限,在这些模型上于移动或嵌入式设备使用十分困难。近来,倒残差块成为紧凑CNN架构设计的主流方案。本工作中,我们全面调研现有设计理念,重新思考倒残差中两个逐点卷积的功能特性。提出一种称为非对称瓶颈的新设计。具体而言,我们调整第一个逐点卷积维度,通过特征复用丰富信息流,并将节省的计算迁移至第二个逐点卷积。如此可在不增加计算开销下进一步提升精度。非对称瓶颈可作为即插即用的替代用于现有CNN块。因而我们可通过依恰当深度与宽度条件简单堆叠这些块来创建AsymmNet。大量实验表明,所提块设计比原始倒残差瓶颈更利于移动网络,尤其对计算量小于220M MAdds的那些超低功耗CNN有用。代码见 https://github.com/Spark001/AsymmNet

关键词

引用

@article{arxiv.2104.07770,
  title  = {AsymmNet: Towards ultralight convolution neural networks using asymmetrical bottlenecks},
  author = {Haojin Yang and Zhen Shen and Yucheng Zhao},
  journal= {arXiv preprint arXiv:2104.07770},
  year   = {2021}
}

备注

MAI@CVPR 2021