PSDNet 与 DPDNet：高效通道扩展、深度逐点深度倒残差块
计算机视觉与模式识别
2019-12-10 v2
摘要
在许多实时应用中，深度神经网络的部署受限于高计算成本，高效轻量神经网络受到广泛关注。本文中，我们提出使用深度卷积（DWC）在瓶颈块中扩展通道数，其比 1 x 1 卷积更高效。所提出的基于 DWC 通道扩展的逐点-标准-深度网络（PSDNet）在 CIFAR 数据集上比相应的 ResNet 具有更少的参数量、更低的计算成本和更高的精度。为设计更高效的轻量卷积神经网络，提出了深度-逐点-深度倒残差块（DPD block），并通过堆叠 DPD block 设计了 DPDNet。同时，对于相同层数的网络，DPDNet 的参数量仅约为 MobileNetV2 的 60%，但能达到近似精度。此外，DPDNet 的两个超参数可在精度与计算成本间权衡，使 DPDNet 适用于多样任务。进一步，我们发现具有更多 DWC 层的网络优于具有更多 1x1 卷积层的网络，这表明提取空间信息比组合通道信息更重要。
引用
@article{arxiv.1909.01026,
title = {PSDNet and DPDNet: Efficient channel expansion, Depthwise-Pointwise-Depthwise Inverted Bottleneck Block},
author = {Guoqing Li and Meng Zhang and Qianru Zhang and Ziyang Chen and Wenzhao Liu and Jiaojie Li and Xuzhao Shen and Jianjun Li and Zhenyu Zhu and Chau Yuen},
journal= {arXiv preprint arXiv:1909.01026},
year = {2019}
}