中文

选择性 G-Bispectrum 及其反演:用于 G-不变网络的应用

机器学习 2024-11-07 v2

摘要

信号处理和深度学习的一个重要问题是实现对与任务无关的 nuisance 因素的 \textit{不变性}。由于许多这些因素可以描述为群 GG(例如旋转、平移、比例)的作用,我们希望方法具备 GG 不变性。GG-Bispectrum 可以提取给定信号在群作用下的所有特征:例如,图像中物体的形状,但不包括其方向。因此,GG-Bispectrum 已被集成到深度神经网络架构中作为 GG 不变性的计算原语——类似于池化机制,但具有更大的选择性和鲁棒性。然而,GG-Bispectrum 的计算复杂度为 O(G2)\mathcal{O}(|G|^2)(其中 G|G| 为群的大小),限制了其广泛采用。本文表明,GG-Bispectrum 计算中存在可以简化为 \textit{选择性 GG-Bispectrum} 的冗余项,其复杂度为 O(G)\mathcal{O}(|G|)。我们证明了选择性 GG-Bispectrum 的理想数学性质,并演示了其在神经网络中的集成如何相对于传统方法提高准确率和鲁棒性,同时相对于完整的 GG-Bispectrum实现了显著的加速。

关键词

引用

@article{arxiv.2407.07655,
  title  = {The Selective G-Bispectrum and its Inversion: Applications to G-Invariant Networks},
  author = {Simon Mataigne and Johan Mathe and Sophia Sanborn and Christopher Hillar and Nina Miolane},
  journal= {arXiv preprint arXiv:2407.07655},
  year   = {2024}
}

备注

10 pages