中文

构建深度等变胶囊网络

机器学习 2019-09-27 v3 计算机视觉与模式识别 机器学习

摘要

胶囊网络受其各层参数开销大以及普遍缺乏可证明等变性保证的制约。我们提出了一种旨在补救这些问题的胶囊网络变体。我们指出,学习连续两层胶囊之间所有成对的部分-整体关系是低效的。此外,我们也认识到预测网络与路由机制的选择对等变性都至关重要。基于此,我们提出了一种替代的胶囊网络框架,其学习以投影方式编码每个层每种胶囊类型的姿态变化流形,称为变化空间(SOV)。这是通过使用定义在群变换网格上的可训练等变函数完成的。因此,路由的预测阶段涉及使用相应函数向更深胶囊的 SOV 中投影。作为该思想的一个具体实例,也为了获取增强参数共享带来的益处,我们在该阶段使用浅层胶囊的型同质群等变卷积。我们还引入了一种基于度中心性的等变路由机制。我们证明了我们通用模型的这一特定实例是等变的,因而在变换下保持输入的组合式表示。我们在标准对象分类数据集上进行了若干实验,展示了我们的模型相对于若干胶囊基线模型在变换鲁棒性以及总体性能上的提升。

关键词

引用

@article{arxiv.1908.01300,
  title  = {Building Deep, Equivariant Capsule Networks},
  author = {Sairaam Venkatraman and S. Balasubramanian and R. Raghunatha Sarma},
  journal= {arXiv preprint arXiv:1908.01300},
  year   = {2019}
}