等变神经网络与分段线性表示论
机器学习
2026-03-30 v2 群论
表示论
机器学习
摘要
等变神经网络是具有对称性的神经网络。受群表示论的启发，我们将等变神经网络的层分解为简单表示。非线性激活函数在简单表示之间产生了有趣的非线性等变映射。例如，修正线性单元(ReLU)产生了分段线性映射。我们证明这些考虑导致了等变神经网络的滤过结构，推广了Fourier级数。这一观察可能为解释等变神经网络提供有用的工具。
引用
@article{arxiv.2408.00949,
title = {Equivariant neural networks and piecewise linear representation theory},
author = {Joel Gibson and Daniel Tubbenhauer and Geordie Williamson},
journal= {arXiv preprint arXiv:2408.00949},
year = {2026}
}
备注
23 pages, many figures, revision, to appear in Contemp. Math., comments welcome