胶囊网络并不比卷积网络更鲁棒
计算机视觉与模式识别
2021-03-30 v1
摘要
胶囊网络(Capsule Network)被广泛认为比卷积网络更鲁棒。然而，这两种网络之间尚无全面比较，且未知 CapsNet 中哪些组件影响其鲁棒性。本文中，我们首先仔细考察了 CapsNet 中不同于常用于图像分类的 ConvNet 的特殊设计。考察揭示了 CapsNet 中五个主要的新增/不同组件：变换过程、动态路由层、压缩函数、除交叉熵损失外的边缘损失，以及用于正则化的额外类条件重构损失。伴随这些主要差异，我们在三类鲁棒性上进行了全面的消融研究，包括仿射变换、重叠数字和语义表示。该研究表明，一些被认为对 CapsNet 至关重要的设计实际上会损害其鲁棒性，即动态路由层和变换过程，而另一些则有益于鲁棒性。基于这些发现，我们仅通过引入 CapsNet 成功背后的关键组件提出了增强的 ConvNets。所提出的简单 ConvNets 能够取得比 CapsNet 更好的鲁棒性。
引用
@article{arxiv.2103.15459,
title = {Capsule Network is Not More Robust than Convolutional Network},
author = {Jindong Gu and Volker Tresp and Han Hu},
journal= {arXiv preprint arXiv:2103.15459},
year = {2021}
}