稀疏无监督胶囊泛化性更佳
计算机视觉与模式识别
2018-04-18 v1
摘要
我们表明,仅使用重构损失对隐胶囊层进行无监督训练,而不通过掩码选择正确输出类别,会导致等变性和其他理想胶囊特性的丧失。这意味着有监督胶囊网络无法做得非常深。对隐胶囊层激活进行无监督稀疏化既能恢复这些特性,又似乎比有监督掩码泛化得更好,同时有可能实现更深的胶囊网络。我们在 MNIST 上训练了与 Sabour 等人 (2017) 几何结构相似的稀疏无监督胶囊网络,随后使用 SVM 层在 affNIST 上测试分类准确率。准确率从基准的 79% 提升至 90%。
引用
@article{arxiv.1804.06094,
title = {Sparse Unsupervised Capsules Generalize Better},
author = {David Rawlinson and Abdelrahman Ahmed and Gideon Kowadlo},
journal= {arXiv preprint arXiv:1804.06094},
year = {2018}
}