稠密且多样的胶囊网络:让胶囊学习得更好
计算机视觉与模式识别
2018-05-11 v1
摘要
过去几年见证了深度学习方法的指数级增长兴趣,其精度快速提升且计算复杂度降低。特别是,使用卷积神经网络(CNNs)的架构在图像分类与物体识别任务上取得了最先进的性能。近来,胶囊网络(CapsNet)通过解决 CNN 在编码位姿与形变方面的固有局限而实现了性能的显著提升。受此进展启发,我们自问:能否做得更好?我们提出稠密胶囊网络(DCNet)与多样胶囊网络(DCNet++)。这两种框架通过用稠密连接卷积替换标准卷积层来定制 CapsNet。这有助于在形成初始胶囊时融入不同层学到的特征图。DCNet 本质上添加了一个更深的卷积网络,从而学习到更具判别力的特征图。此外,DCNet++ 使用分层架构以由细到粗的方式学习表示空间信息的胶囊,这使其对学习复杂数据更为高效。在图像分类任务上使用基准数据集的实验证明了所提架构的有效性。DCNet 在 MNIST 数据集上以相较传统 CapsNet 二十倍的训练迭代次数下降取得了最先进性能(99.75%)。此外,DCNet++ 在 SVHN 数据集(96.90%)上优于 CapsNet,并以七倍的参数量下降在 CIFAR-10 上超越七个 CapsNet 模型集成的性能 0.31%。
引用
@article{arxiv.1805.04001,
title = {Dense and Diverse Capsule Networks: Making the Capsules Learn Better},
author = {Sai Samarth R Phaye and Apoorva Sikka and Abhinav Dhall and Deepti Bathula},
journal= {arXiv preprint arXiv:1805.04001},
year = {2018}
}