通过不可约表示的视角重访多置换等变性
机器学习
2025-03-07 v3 人工智能
摘要
本文探讨了关于置换及相关群的表示的等变线性层的特征。与传统方法不同,后者使用参数共享来处理这些问题,本文考虑基于不可约表示与Schur引理的替代方法。通过该方法,我们获得了对现有模型(如DeepSets、2-IGN图等变网络和Deep Weight Space(DWS)网络)的另一种推导。与先前结果相比,DWS网络的推导显著简化。接下来,我们将方法扩展到非对齐对称集,需实现各组之积的等变性。以往工作在相当受限的设置下处理此问题,其中几乎所有可积极力矩层都是双胞胎。相反,我们对该情况下的层进行完整特征化,表明在某些设置中存在大量额外的非双胞胎层。我们还在图异常检测、权重空间对齐和学习Wasserstein距离等任务中证明,这些额外的非双胞胎层可提升性能。我们的代码已公开于GitHub。
引用
@article{arxiv.2410.06665,
title = {Revisiting Multi-Permutation Equivariance through the Lens of Irreducible Representations},
author = {Yonatan Sverdlov and Ido Springer and Nadav Dym},
journal= {arXiv preprint arXiv:2410.06665},
year = {2025}
}