CondConv：用于高效推理的条件参数化卷积
计算机视觉与模式识别
2020-09-07 v3 人工智能
机器学习
摘要
卷积层是现代深度神经网络的基本构建模块之一。一个基本假设是卷积核应在数据集中的所有样本上共享。我们提出条件参数化卷积（CondConv），其为每个样本学习专门的卷积核。以CondConv替换普通卷积，使我们能够在保持高效推理的同时增加网络的规模与容量。我们证明，在分类与检测任务上，使用CondConv扩展网络可改善若干现有卷积神经网络架构的性能与推理代价权衡。在ImageNet分类上，我们将CondConv方法应用于EfficientNet-B0，以仅413M次乘加运算取得了78.3%准确率的最先进性能。CondConv Tensorflow层及CondConv-EfficientNet模型的代码与检查点可在 https://github.com/tensorflow/tpu/tree/master/models/official/efficientnet/condconv 获取。
引用
@article{arxiv.1904.04971,
title = {CondConv: Conditionally Parameterized Convolutions for Efficient Inference},
author = {Brandon Yang and Gabriel Bender and Quoc V. Le and Jiquan Ngiam},
journal= {arXiv preprint arXiv:1904.04971},
year = {2020}
}