中文

WideCaps:一种基于宽注意力的胶囊网络用于图像分类

计算机视觉与模式识别 2021-08-17 v2

摘要

胶囊网络是神经网络家族中一个独特且有前景的分支,因其通过保持特征间的空间关系来维持等变性质的特殊能力而受到关注。胶囊网络通过将特征编码进胶囊并构建解析树结构,在 MNIST 和 affNIST 等数据集上的图像分类任务中取得了前所未有的成功。然而,在涉及复杂前景与背景区域的数据集(如 CIFAR-10)上,由于其朴素的数据路由策略以及提取复杂特征的不足,胶囊网络的性能欠佳。本文提出一种新的胶囊网络架构设计策略,以高效处理复杂图像。所提方法融合了宽瓶颈残差模块与压缩激励(Squeeze and Excitation)注意力块,并辅以改进的 FM 路由算法来解决所述问题。宽瓶颈残差模块有助于提取复杂特征,随后由压缩激励注意力块通过抑制次要特征来实现通道注意力。该设置以几乎零计算成本允许通道间依赖,从而增强了胶囊在复杂图像上的表示能力。我们在三个公开数据集(即 CIFAR-10、Fashion MNIST 和 SVHN)上广泛评估了所提模型的性能,在 CIFAR-10 和 Fashion MNIST 上优于 top-5 性能,并在 SVHN 数据集上取得极具竞争力的性能。

关键词

引用

@article{arxiv.2108.03627,
  title  = {WideCaps: A Wide Attention based Capsule Network for Image Classification},
  author = {S J Pawan and Rishi Sharma and Hemanth Sai Ram Reddy and M Vani and Jeny Rajan},
  journal= {arXiv preprint arXiv:2108.03627},
  year   = {2021}
}

备注

13 pages, 5 figures