深度脊波变换与深浅联合群等变机器的统一通用性定理

我们基于群表示论，为配备联合群等变特征映射的学习机器（称为联合等变机器）提出了一个构造性通用逼近定理。这里的“构造性”意味着参数分布以闭式表达式（即脊波变换）给出。联合群等变性涵盖了一大类特征映射，这些映射推广了经典的群等变性。特别地，全连接网络不是群等变的，但却是联合群等变的。我们的主要定理还统一了浅层和深层网络的通用逼近定理。直到本研究，深层网络的通用性一直以与浅层网络不同的方式证明，但我们的结果在共同基础上讨论了它们。现在我们可以统一理解各种学习机器的逼近方案。作为应用，我们展示了四个例子的构造性通用逼近性质：深度$n$联合等变机器、深度$n$全连接网络、深度$n$群卷积网络，以及一个新颖的深度$2$二次型网络（其通用性此前未知）。