基于变分Bayes的胶囊路由
机器学习
2019-12-04 v3 计算机视觉与模式识别
机器学习
摘要
胶囊网络是最近提出的一种神经网络类型，在具有挑战性的形状识别任务中表现优于替代方案。在胶囊网络中，标量神经元被胶囊向量或矩阵取代，其条目表示对象的不同属性。对象与其部件之间的关系通过可训练的视角不变变换矩阵学习，给定对象的存在由其部件投票之间的一致性程度决定。这种交互发生在胶囊层之间，是一个称为基于一致性的路由的过程。在本文中，我们提出一种由变分Bayes推导的新的胶囊路由算法，用于拟合变换高斯混合，并表明可以将我们的胶囊网络转化为Capsule-VAE。我们的贝叶斯方法通过对方囊姿态参数的不确定性建模，解决了基于最大似然估计（MLE）模型的某些固有弱点，如方差崩溃。我们在smallNORB上使用比先前报道少50%的胶囊数量超越了最先进水平，在CIFAR-10、Fashion-MNIST、SVHN上取得了有竞争力的性能，并证明在MNIST到affNIST的泛化上相较先前工作有显著改进。
引用
@article{arxiv.1905.11455,
title = {Capsule Routing via Variational Bayes},
author = {Fabio De Sousa Ribeiro and Georgios Leontidis and Stefanos Kollias},
journal= {arXiv preprint arXiv:1905.11455},
year = {2019}
}
备注
AAAI 2020 Accepted Paper