绑定块卷积：利用共享更窄滤波器实现更精简且更优的 CNN
计算机视觉与模式识别
2020-09-28 v1
摘要
卷积是卷积神经网络（CNN）的主要构建模块。我们观察到，随着通道数随深度增加，优化后的 CNN 往往具有高度相关的滤波器，降低了特征表示的表达能力。我们提出绑定块卷积（Tied Block Convolution, TBC），其在相等的通道块上共享相同的更窄滤波器，并用单个滤波器产生多个响应。TBC 的概念也可扩展至分组卷积和全连接层，并可应用于各种骨干网络和注意力模块。我们在分类、检测、实例分割和注意力上的大量实验表明，TBC 相对于标准卷积和分组卷积具有全面的显著增益。所提出的 TiedSE 注意力模块甚至可使用比 SE 模块少 64 倍的参数来达到相当的性能。特别地，标准 CNN 在存在遮挡时往往无法准确聚合信息，并产生多个冗余的局部目标提议。通过跨通道共享滤波器，TBC 降低了相关性，并能有效处理高度重叠的实例。当遮挡率为 80% 时，TBC 在 MS-COCO 上将目标检测的平均精度提高了 6%。我们的代码将公开。
引用
@article{arxiv.2009.12021,
title = {Tied Block Convolution: Leaner and Better CNNs with Shared Thinner Filters},
author = {Xudong Wang and Stella X. Yu},
journal= {arXiv preprint arXiv:2009.12021},
year = {2020}
}
备注
13 pages