利用冗余性：李群上的可分离群卷积网络
计算机视觉与模式识别
2022-04-05 v2 人工智能
摘要
群卷积神经网络（G-CNNs）通过引入几何归纳偏置，已被证明能够提高参数效率和模型准确率。在这项工作中，我们研究了常规 G-CNNs 所学表征的性质，并展示了群卷积核中存在显著的参数冗余。这一发现促使我们通过跨子群共享卷积核来进一步绑定权重。为此，我们引入了在子群和通道维度上可分离的卷积核。为了获得对任意仿射李群的等变性和，我们提供了可分离卷积核的连续参数化方法。我们在多个视觉数据集上评估了我们的方法，并表明我们的权重共享带来了性能和计算效率的提升。在许多设定下，可分离 G-CNNs 优于其不可分离对应模型，同时仅使用了其训练时间的一小部分。此外，得益于计算效率的提升，我们能够实现等变于 群的 G-CNNs；即膨胀、旋转和平移群。-等变性在所有考虑的任务上进一步提升了性能。
引用
@article{arxiv.2110.13059,
title = {Exploiting Redundancy: Separable Group Convolutional Networks on Lie Groups},
author = {David M. Knigge and David W. Romero and Erik J. Bekkers},
journal= {arXiv preprint arXiv:2110.13059},
year = {2022}
}