一种对对称子群作用保持不变且计算高效的神经网络
机器学习
2021-10-15 v1 神经与进化计算
机器学习
摘要
我们引入一种方法来设计计算高效的 -不变神经网络，其逼近对给定置换子群 （对称群在输入数据上的作用）保持不变的函数。所提网络架构的关键要素是一个新的 -不变变换模块，它产生输入数据的 -不变潜在表示。该潜在表示随后在网络中由多层感知机处理。我们证明了所提架构的普适性，讨论了其性质并强调了其计算与内存效率。理论考量得到了涉及不同网络配置的数值实验的支持，这些实验展示了所提方法相较于其他 -不变神经网络的有效性与强泛化性质。
引用
@article{arxiv.2002.07528,
title = {A Computationally Efficient Neural Network Invariant to the Action of Symmetry Subgroups},
author = {Piotr Kicki and Mete Ozay and Piotr Skrzypczyński},
journal= {arXiv preprint arXiv:2002.07528},
year = {2021}
}