可识别等价网络具有层级等价性
机器学习
2026-01-30 v1 范畴论
表示论
摘要
我们研究了深度神经网络中端到端等价性与层级等价性之间的关系。我们证明了以下内容:对于一个其端到端函数相对于输入空间和输出空间上的群作用而言具有等价性的网络,存在一种参数选择,使得其各层相对于潜在空间上某些群作用而具有等价性。我们的结果假设模型的参数在恰当意义上是可识别的。这种可识别性属性在文献中已为大类网络建立,而我们的结果可立即适用于这些网络,而对于其他一些则属于推测状态。我们发展的理论建立在抽象形式化之上,因此是无特定架构依赖的。总体而言,我们的结果为神经网络权重在训练期间出现等价结构的数学解释——这一现象在实践中一致被观察到。
引用
@article{arxiv.2601.21645,
title = {Identifiable Equivariant Networks are Layerwise Equivariant},
author = {Vahid Shahverdi and Giovanni Luca Marchetti and Georg Bökman and Kathlén Kohn},
journal= {arXiv preprint arXiv:2601.21645},
year = {2026}
}