P-CapsNets:卷积神经网络的一种通用形式
计算机视觉与模式识别
2019-12-19 v1
摘要
我们提出了纯胶囊网络(Pure CapsNets,P-CapsNets),它在结构上是对普通 CNN 的一种推广。具体而言,我们对当前胶囊网络做了三处修改。首先,基于耦合系数可被隐式学习的观察,我们移除了胶囊网络中的路由过程。其次,我们替换胶囊网络中的卷积层以提升效率。第三,我们将胶囊打包为秩-3 张量以进一步提升效率。实验表明,在 MNIST 和 CIFAR10 上,P-CapsNets 以显著更少的参数取得了优于采用不同路由过程的胶囊网络的性能。P-CapsNets 的高效率甚至可与某些深度压缩模型相媲美。例如,我们仅用 3888 个参数就在 MNIST 上达到了超过 99% 的准确率。我们对胶囊以及相应的相关矩阵进行了可视化,以展示未来初始化胶囊网络的一种可能方式。我们还探讨了 P-CapsNets 相较于 CNN 的对抗鲁棒性。
引用
@article{arxiv.1912.08367,
title = {P-CapsNets: a General Form of Convolutional Neural Networks},
author = {Zhenhua Chen and Xiwen Li and Chuhua Wang and David Crandall},
journal= {arXiv preprint arXiv:1912.08367},
year = {2019}
}