通过可分组卷积神经网络进行通道可微分学习分组
计算机视觉与模式识别
2019-08-20 v2 机器学习
神经与进化计算
摘要
分组卷积将卷积网络的通道划分为若干组，相较常规卷积操作取得了令人印象深刻的性能提升。然而，现有模型（如 ResNeXt）仍因手动将组数定义为所有层上的常数而遭受次优性能。为解决此问题，我们提出了使用一种新颖的动态分组卷积（DGConv）操作构建的可分组卷积网络（GroupNet），该操作能够以端到端方式学习组数。所提方法具有若干吸引人的优点：（1）DGConv 提供了统一的卷积表示，并涵盖了诸多现有卷积操作，如常规稠密卷积、分组卷积和深度可分离卷积；（2）DGConv 是一种可微分且灵活的操作，可从训练数据中学习执行各种卷积；（3）用 DGConv 训练的 GroupNet 为不同卷积层学习不同的组数。大量实验表明，GroupNet 在准确率和计算复杂度方面优于 ResNet 和 ResNeXt 等同类模型。我们还首次给出了内省与可复现性研究，展示了训练组数的学习动态。
引用
@article{arxiv.1908.05867,
title = {Differentiable Learning-to-Group Channels via Groupable Convolutional Neural Networks},
author = {Zhaoyang Zhang and Jingyu Li and Wenqi Shao and Zhanglin Peng and Ruimao Zhang and Xiaogang Wang and Ping Luo},
journal= {arXiv preprint arXiv:1908.05867},
year = {2019}
}
备注
accepted by ICCV 2019