胶囊网络无需建模一切
计算机视觉与模式识别
2025-07-15 v2 人工智能
摘要
胶囊网络是受生物学启发的神经网络,其将神经元分组为称为胶囊的向量,每个胶囊显式表示一个对象或其部件之一。路由机制连接连续层中的胶囊,形成部件与对象之间的层次结构,也称为解析树。胶囊网络常试图建模图像中的所有元素,需要较大的网络规模来处理复杂背景或无关对象等情况。然而,这种全面建模导致参数量增加和计算效率低下。我们的目标是使胶囊网络仅关注感兴趣的对象,减少解析树的数量。我们通过 REM(路由熵最小化,Routing Entropy Minimization)实现这一点,该技术最小化类解析树结构的熵。REM 通过剪枝机制将模型参数分布推向低熵配置,显著减少类内解析树的生成。这使胶囊能够以更少的参数和可忽略的性能损失学习更稳定、更简洁的表示。
引用
@article{arxiv.2204.01298,
title = {Capsule Networks Do Not Need to Model Everything},
author = {Riccardo Renzulli and Enzo Tartaglione and Marco Grangetto},
journal= {arXiv preprint arXiv:2204.01298},
year = {2025}
}
备注
Accepted at Pattern Recognition