中文

具有非迭代聚类路由的胶囊网络

计算机视觉与模式识别 2021-09-21 v1 人工智能

摘要

胶囊网络使用路由算法在连续层之间传递信息。在现有路由过程中,胶囊为下一层胶囊生成预测(称为投票)。简言之,下一层胶囊的输入是其接收到的所有投票的加权和。本文中,我们提出用于胶囊网络的非迭代聚类路由。在所提出的聚类路由中,胶囊为下一层胶囊生成投票簇而非个体投票,且每个投票簇将其质心发送至一个下一层胶囊。一般而言,下一层胶囊的输入是其接收到的每个投票簇质心的加权和。来自方差较小簇的质心在加权和过程中被赋予较大权重。与最先进的胶囊网络相比,所提出的胶囊网络以更少参数在 Fashion-MNIST 和 SVHN 数据集上取得最佳准确率,并以适中参数在 smallNORB 和 CIFAR-10 数据集上取得最佳准确率。所提出的胶囊网络还生成具有解耦表示的胶囊,并能很好地泛化至在新视角下捕获的图像。所提出的胶囊网络还在胶囊通道中保留输入图像的二维空间信息:若胶囊通道被旋转,由这些通道重建的物体将经历相同变换的旋转。代码见 https://github.com/ZHAOZHIHAO/ClusterRouting。

关键词

引用

@article{arxiv.2109.09213,
  title  = {Capsule networks with non-iterative cluster routing},
  author = {Zhihao Zhao and Samuel Cheng},
  journal= {arXiv preprint arXiv:2109.09213},
  year   = {2021}
}