基于群上脊波分析的群卷积神经网络通用性
机器学习
2022-10-14 v2 表示论
摘要
我们基于脊波理论,以统一且构造性的方式展示了深度为 2 的群卷积神经网络(GCNNs)的通用性。尽管(G)CNNs 在应用中被广泛使用,其逼近性质却未被充分研究。自 2010 年代后期以来已证明(G)CNNs 的通用性。然而,由于过往通用性定理是针对卷积层多样性以逐案方式手动/谨慎指定网络参数、并通过将(G)CNNs 转换为不变多项式与全连接网络等其他通用逼近器的间接方式给出的,我们对(G)CNNs 如何表示函数的理解仍不完整。本研究中,我们将一个通用的深度为 2 的连续 GCNN 表述为群表示间的非线性映射,并直接获得一个称为脊波变换的分析算子,该算子将给定函数 映射到网络参数 使得 。所提 GCNN 涵盖典型 GCNN,如多通道图像上的循环卷积、置换不变输入上的网络(Deep Sets)以及 -等变网络。脊波变换的闭式表达可描述网络参数如何组织以表示函数。尽管该变换此前仅对全连接网络已知,本研究首次为 GCNNs 获得脊波变换。通过对闭式表达离散化,我们可系统性地生成有限 GCNNs 的 -通用性的构造性证明。换言之,我们的通用性证明比先前证明更为统一与具构造性。
引用
@article{arxiv.2205.14819,
title = {Universality of Group Convolutional Neural Networks Based on Ridgelet Analysis on Groups},
author = {Sho Sonoda and Isao Ishikawa and Masahiro Ikeda},
journal= {arXiv preprint arXiv:2205.14819},
year = {2022}
}
备注
replaced with the published version (NeurIPS2022)