胶囊网络在复杂数据上的性能研究
机器学习
2017-12-12 v1 机器学习
摘要
近年来，卷积神经网络(CNN)在深度学习领域发挥了重要作用。CNN 的变体已在不同领域的分类任务中被证明非常成功。然而，CNN 有两个重大缺陷：未能考虑特征之间重要的空间层次关系，以及缺乏旋转不变性。只要对象的某些关键特征出现在测试数据中，CNN 就会将该测试数据分类为该对象，而忽略特征之间相对的空间方向，这会导致假阳性。CNN 缺乏旋转不变性会使网络将对象错误赋予另一标签，导致假阴性。针对此问题，Hinton 等人近期提出一种利用胶囊概念的新型神经网络。通过动态路由与重构正则化，胶囊网络模型兼具旋转不变性与空间感知能力。胶囊网络已在 MNIST 上无需旋转和缩放等数据增强即取得 0.25% 测试误差的 SOTA 结果，优于先前 0.39% 的基线。为进一步测试胶囊网络在更高维数据上的应用，我们尝试寻找在 CIFAR10 数据集上产生最优测试误差的最佳配置组合。
引用
@article{arxiv.1712.03480,
title = {Capsule Network Performance on Complex Data},
author = {Edgar Xi and Selina Bing and Yang Jin},
journal= {arXiv preprint arXiv:1712.03480},
year = {2017}
}