通过动态路由混合训练专家胶囊的乘积
机器学习
2019-07-29 v1 神经与进化计算
机器学习
摘要
本研究提出了一种用于带动态路由的专家胶囊乘积的无监督学习算法。类比于受限玻尔兹曼机中二值神经元，压缩后胶囊激发的幅值取零到一之间的值，表示胶囊处于激活状态的概率。这一类比启发了胶囊网络能量函数的设计。为了获得隐藏层节点互不连接的高效采样过程，该能量函数在胶囊激发概率的意义上与动态路由保持一致，并且胶囊网络的推断通过胶囊间动态路由过程计算。为了优化可见层胶囊的对数似然，根据该能量函数求得梯度。所开发的无监督学习算法用于在标准视觉数据集上训练胶囊网络，并能够从其学习到的分布中生成外观逼真的图像。
引用
@article{arxiv.1907.11643,
title = {Training products of expert capsules with mixing by dynamic routing},
author = {Michael Hauser},
journal= {arXiv preprint arXiv:1907.11643},
year = {2019}
}