群等变神经网络的理论方面
机器学习
2020-05-01 v2 机器学习
摘要
群等变神经网络在过去几年中得到了探索，并从理论和实际角度而言都颇具趣味。它们利用了群表示论、非交换调和分析与微分几何中的概念，这些概念在机器学习中并不常见。在实践中，它们已被证明能够降低样本与模型复杂度，尤其是在存在任意旋转等输入变换的困难任务中。我们在本工作中首先阐述群表示论以及定义和评估群上积分与卷积所需的机制。随后，我们展示对近期 SO(3) 与 SE(3) 等变网络的应用，即 Spherical CNNs、Clebsch-Gordan Networks 与 3D Steerable CNNs。我们接着讨论两项近期理论结果。第一项由 Kondor 与 Trivedi（ICML'18）给出，表明神经网络是群等变的当且仅当它具有卷积结构。第二项由 Cohen 等人（NeurIPS'19）给出，将第一项推广到更大类的网络，其特征映射为齐性空间上的场。
引用
@article{arxiv.2004.05154,
title = {Theoretical Aspects of Group Equivariant Neural Networks},
author = {Carlos Esteves},
journal= {arXiv preprint arXiv:2004.05154},
year = {2020}
}
备注
Corrected 3D steerable CNNs kernel characterization and other minor fixes