通过不变映射分解等变映射:在对称性下的通用逼近中的应用
机器学习
2024-09-27 v1
摘要
在本文中,我们发展了关于群 的不变映射与等变映射之间关系的理论。随后,我们在具有群对称性的深度神经网络背景下应用该理论,以获得对其机制的新见解。更准确地说,我们建立了等变映射与某些不变映射之间的一一对应关系。这使我们能够将关于等变映射的论证转化为关于不变映射的论证,反之亦然。作为应用,我们提出了一种由通用不变网络构建的通用等变架构。进而,我们解释了由我们的构造产生的通用架构与已知通用的标准等变架构有何不同。此外,我们探索了模型在自由参数数量方面的复杂性,并讨论了不变网络与等变网络复杂性之间的关系。最后,我们还给出了具有 ReLU 激活函数的 G-等变深度神经网络在有限群 G 下的逼近率。
引用
@article{arxiv.2409.16922,
title = {Decomposition of Equivariant Maps via Invariant Maps: Application to Universal Approximation under Symmetry},
author = {Akiyoshi Sannai and Yuuki Takai and Matthieu Cordonnier},
journal= {arXiv preprint arXiv:2409.16922},
year = {2024}
}