中文

等变与不变 Reynolds 网络

机器学习 2021-10-18 v1

摘要

不变与等变网络在学习具有对称性的数据(包括图像、集合、点云与图)时十分有用。在本文中,我们考虑针对有限群对称性的不变与等变网络。已有诸多研究者利用 Reynolds 算子构造了不变与等变网络。然而,当群的阶较大时,Reynolds 算子由于需要对整个群求和而计算代价高昂,这带来了实现上的困难。为克服该困难,我们考虑将 Reynolds 算子表示为对某个子集的求和,而非对整个群的求和。我们称这样的子集为 Reynolds 设计,将由对 Reynolds 设计的求和所定义的算子称为约化 Reynolds 算子。例如,对于具有 nn 个节点的图,约化 Reynolds 算子的计算复杂度降至 O(n2)O(n^2),而 Reynolds 算子的计算复杂度为 O(n!)O(n!)。我们基于约化 Reynolds 算子构建称为等变与不变 Reynolds 网络(ReyNets)的学习模型,并证明它们具有通用逼近性质。等变 ReyNets 的 Reynolds 设计源于基于 Young 图的组合观察,而不变 ReyNets 的 Reynolds 设计则源于定义在不变多项式集合上的称为 Reynolds 维数的不变量。数值实验表明,我们模型的性能可与最先进的方法相媲美。

关键词

引用

@article{arxiv.2110.08092,
  title  = {Equivariant and Invariant Reynolds Networks},
  author = {Akiyoshi Sannai and Makoto Kawano and Wataru Kumagai},
  journal= {arXiv preprint arXiv:2110.08092},
  year   = {2021}
}

备注

15 pages, 4 figures