等变性的利用与滥用
计算机视觉与模式识别
2023-08-23 v1
摘要
在本文中,我们展示了群等变卷积神经网络如何利用子采样来学习打破其对称性的等变性。我们聚焦于二维旋转和反射,并研究被打破的等变性对网络性能的影响。我们表明,网络输入维度仅改变单个像素这样小的变化,就足以使常用架构变为近似等变而非精确等变。我们研究了网络非精确等变的影响,发现与精确等变的对应网络相比,近似等变网络对未见对称性的泛化能力显著更差。然而,当训练数据中的对称性与网络的对称性不完全一致时,我们发现近似等变网络能够放松自身的等变约束,从而在常用基准数据集上匹配或超越精确等变网络。
引用
@article{arxiv.2308.11316,
title = {Using and Abusing Equivariance},
author = {Tom Edixhoven and Attila Lengyel and Jan van Gemert},
journal= {arXiv preprint arXiv:2308.11316},
year = {2023}
}