中文

傅里叶神经算子 Rademacher 复杂度的界

机器学习 2022-09-27 v3 机器学习

摘要

傅里叶神经算子(FNO)是受物理启发的机器学习方法之一,具体而言它是一种神经算子。近年来,多种神经算子被提出,例如深度算子网络、图神经算子(GNO)和基于多小波的算子(MWTO)。与其他模型相比,FNO 计算高效,且能够学习与特定有限基无关的函数空间之间的非线性算子。在本研究中,我们基于特定的群范数研究了 FNO 的 Rademacher 复杂度界。利用基于这些范数的容量,我们给出了模型泛化误差的界。此外,我们研究了经验泛化误差与所提出的 FNO 容量之间的相关性。从我们的结果来看,我们推断群范数的类型决定了容量中所存储的 FNO 模型的权重和架构信息。随后,我们通过实验证实了这些推断。基于这一事实,我们深入理解了 FNO 模型中使用的模态数量对泛化误差的影响,并得到了符合我们见解的实验结果。

关键词

引用

@article{arxiv.2209.05150,
  title  = {Bounding the Rademacher Complexity of Fourier neural operators},
  author = {Taeyoung Kim and Myungjoo Kang},
  journal= {arXiv preprint arXiv:2209.05150},
  year   = {2022}
}

备注

21 pages, 19 figures