降低稀释：胶囊网络信息敏感性分析及一种实用改进方法
机器学习
2019-05-06 v3 计算机视觉与模式识别
机器学习
摘要
胶囊网络已展现出相对于卷积神经网络（CNN）的多种优势。它比 CNN 保留更精确的空间信息，并在推理中使用等变而非不变性，极有潜力成为视觉任务中新的有效工具。然而，当前胶囊网络在面临含背景与复杂目标物体的数据集时性能与 CNN 不相称，且缺乏通用高效的正则化方法。我们将这种不相称性能的一个主要原因归结为胶囊网络的信息敏感性与初层胶囊不合理的高激活值分布之间的冲突。相应地，我们提出一种实用改进方法，通过抑制初层胶囊的激活值来抑制非信息性胶囊并突出判别性胶囊。在实验中，该方法在各种主流数据集上取得了更好的性能。此外，所提出的改进方法可视为一种合适的、简单且高效的正则化方法，可普遍用于胶囊网络。
引用
@article{arxiv.1903.10588,
title = {Reducing the dilution: An analysis of the information sensitiveness of capsule network with a practical improvement method},
author = {Zonglin Yang and Xinggang Wang},
journal= {arXiv preprint arXiv:1903.10588},
year = {2019}
}