群不变Barron函数的统计学习保障

我们研究了在Barron框架内的群不变神经网络的泛化误差。我们的分析表明， Incorporating group-invariant structures（引入群不变结构）会引入一个受组别影响的因子 $\delta_{G,\Gamma,\sigma} \le 1$ 到近似速率中。当这个因子较小时，群不变性会在近似精度方面带来显著的改进。在估计方面，我们证明了群不变类的Rademacher复杂度不大于其非不变对应项的复杂度，这意味着估计误差在引入对称性后保持不变。因此，当学习具有内在群对称性的函数时，泛化误差可以显著改善。我们进一步提供了示例，说明在 $\delta_{G,\Gamma,\sigma}\approx |G|^{-1}$ 的有利情况下以及 $\delta_{G,\Gamma,\sigma}\approx 1$ 的不利情况下都存在明显的效果。总体而言，我们的结果为将群不变结构编码到神经网络中，使得对具有内在群对称性的目标函数具有明确的统计优势提供了严格的理论基础。