中文

平移等变神经网络的泛化能力

高能物理 - 格点 2021-10-12 v3 机器学习 高能物理 - 唯象学 机器学习

摘要

机器学习在高能物理和格点场论中日益广泛的应用,有必要重新评估计算机视觉中广泛使用的常见方法,这些方法应用于物理问题时,会在性能和泛化性方面导致显著缺陷。其中一个具体例子是使用不能反映给定物理问题底层对称性的神经网络架构。在本工作中,我们聚焦于二维格点上的复标量场论,并研究基于平移群的群等变卷积神经网络架构的优势。为进行有意义的比较,我们系统性地搜索等变与非等变神经网络架构,并将其应用于多种回归与分类任务。我们证明,在大多数任务中,我们最佳的等变架构比非等变对应架构性能和泛化能力显著更好,这不仅适用于超出训练集所代表范围的物理参数,也适用于不同的格点尺寸。

关键词

引用

@article{arxiv.2103.14686,
  title  = {Generalization capabilities of translationally equivariant neural networks},
  author = {Srinath Bulusu and Matteo Favoni and Andreas Ipp and David I. Müller and Daniel Schuh},
  journal= {arXiv preprint arXiv:2103.14686},
  year   = {2021}
}

备注

28 pages, 20 figures, v3: equivalent to the version published in PRD