在混合对称性下正则化趋向软等变性

数据集往往具有其内在对称性，并且已经开发了称为等变或不变模型的特定深度学习模型来利用这些对称性。然而，如果部分或全部这些对称性只是近似的（这在实践中经常发生），由于施加于模型上的架构限制，这些模型可能并非最优。我们在一个对称性为混合的设置中解决这一近似对称性问题，即对称性不是单一类型而是多种不同类型，并且近似程度在这些类型间有所不同。与大多数先前方法提出新的架构限制不同，我们提出了一种基于正则化器的方法，用于为具有混合近似对称性的数据集构建模型。我们方法的关键组成部分是我们称之为针对给定对称性类型的等变正则化器，它衡量一个模型相对于该类型对称性的等变程度。我们的方法使用这些正则化器（每种对称类型一个）进行训练，并且正则化器的强度在训练过程中自动调整，从而在无显式监督的情况下发现某些候选对称类型的近似水平。利用合成函数逼近和运动预测任务，我们证明了我们的方法在正确发现近似对称水平的同时，比先前方法取得更好的精度。