胶囊网络投影器是等变与不变学习者

学习不变表示是自监督学习长期以来的主流方法，但最近的进展在于以高度规定性的架构来保持等变性质。本文提出了一种采用胶囊网络（CapsNets）的等变-不变自监督架构，CapsNets已被证明能够对新视角实现等变性。我们展示了在等变自监督架构中使用CapsNets可实现在等变任务上的下游性能提升，同时具有更高的效率和更少的网络参数。为适应CapsNets的架构变更，我们引入一种基于熵最小化的新目标函数。我们称该方法为CapsIE（Capsule Invariant Equivariant Network），其在3DIEBench数据集上的等变旋转任务中实现了相较于先前等变SSL方法的领先表现，同时在监督对手中也表现出竞争力。我们的结果表明，CapsNets能够为大规模、多任务数据集学习复杂且普适的表示，与以往CapsNet基准测试相比。代码已公开于https://github.com/AberdeenML/CapsIE。