不变映射的神经网络通用逼近
神经与进化计算
2018-04-30 v1
摘要
我们描述了神经网络通用逼近定理对关于群线性表示的不变或等变映射的推广。我们的目标是建立类网络计算模型，这些模型既具有不变/等变性，又在其逼近任意连续不变/等变映射的能力意义下可证明完备。我们的贡献有三方面。首先，在紧群的一般情形下，我们利用一个中间多项式层提出一种完备不变/等变网络的构造。我们援引 Hilbert 和 Weyl 的经典定理来论证并简化该构造；特别地，我们给出了置换不变映射逼近的显式完备 ansatz。其次，我们考虑平移群，并证明了在欧氏空间上连续信号极限下卷积网络的若干通用逼近定理版本。最后，我们考虑关于刚体欧氏运动群 SE(2) 等变的 2D 信号变换。在此情形下，我们引入“电荷守恒卷积网”——一种基于特征空间分解为 SO(2) 的等型表示的类卷积计算模型。我们证明该模型是连续 SE(2)-等变信号变换的通用逼近器。
引用
@article{arxiv.1804.10306,
title = {Universal approximations of invariant maps by neural networks},
author = {Dmitry Yarotsky},
journal= {arXiv preprint arXiv:1804.10306},
year = {2018}
}
备注
64 pages, 3 figures