多样分支块:将卷积构建为类Inception单元
计算机视觉与模式识别
2021-03-30 v2 人工智能
机器学习
摘要
我们提出一种卷积神经网络(ConvNet)的通用构建块,以在不引入任何推理时成本的前提下提升性能。该块被命名为多样分支块(Diverse Branch Block, DBB),它通过组合不同尺度和复杂度的多样分支(包括卷积序列、多尺度卷积和平均池化)来丰富特征空间,从而增强单个卷积的表征能力。训练完成后,DBB可等价转换为单个卷积层用于部署。与新颖ConvNet架构的进展不同,DBB在保持宏观架构的同时复杂化了训练时微观结构,因此可作为任意架构中常规卷积层的即插即用替代。以此方式,模型可被训练至更高性能水平,然后转换为原始推理时结构进行推理。DBB在图像分类(ImageNet上top-1准确率最高提升1.9%)、目标检测和语义分割上改进了ConvNet。PyTorch代码与模型发布于 https://github.com/DingXiaoH/DiverseBranchBlock。
引用
@article{arxiv.2103.13425,
title = {Diverse Branch Block: Building a Convolution as an Inception-like Unit},
author = {Xiaohan Ding and Xiangyu Zhang and Jungong Han and Guiguang Ding},
journal= {arXiv preprint arXiv:2103.13425},
year = {2021}
}
备注
CVPR 2021