G-等变网络中鲁棒 G-不变性的通用框架

我们引入一种在群等变卷积神经网络($G$-CNNs)中实现鲁棒群不变性的通用方法,称之为 $G$-三重相关($G$-TC)层。该方法利用群上三重相关理论,其为唯一的、最低次多项式不变映射且是完备的。许多常用不变映射——如最大值池化——是不完备的:它们同时去除了群结构与信号结构。相比之下,完备不变映射仅去除由群作用引起的变化,同时保留关于信号结构的所有信息。三重相关的完备性赋予 $G$-TC 层强鲁棒性,这可从其对抗基于不变性的对抗攻击的抵抗中观察到。此外,我们观察到其在 $G$-CNN 架构中相较标准最大 $G$ 池化(Max $G$-Pooling)带来了分类精度的可测量提升。我们提供了对任意离散化群的通用高效实现,仅需一张定义群乘积结构的表。我们展示了该方法在定义在交换与非交换群——$SO(2)$、$O(2)$、$SO(3)$ 与 $O(3)$(离散化为循环群 $C8$、二面体群 $D16$、手性八面体群 $O$ 与完整八面体群 $O_h$)——上的 $G$-CNNs 的益处,这些群作用于 $\mathbb{R}^2$ 与 $\mathbb{R}^3$,并在 $G$-MNIST 与 $G$-ModelNet10 数据集上验证。