MgNO:通过多重网格高效参数化线性算子
机器学习
2024-06-27 v3 数值分析
数值分析
摘要
在这项工作中,我们提出了一种用于算子学习的简洁神经算子架构。类比传统的全连接神经网络,我们定义神经算子如下:非线性算子层中第 个神经元的输出定义为 。这里, 表示连接第 个输入神经元与第 个输出神经元的有界线性算子,偏置 采取函数形式而非标量。鉴于其新的通用逼近性质,两个神经元(巴拿赫空间)之间有界线性算子的高效参数化起着关键作用。因此,我们引入 MgNO,利用多重网格结构来参数化这些神经元间的线性算子。该方法兼具数学严谨性与实际表达能力。此外,MgNO 免除了先前神经算子中通常所需的传统提升与投影算子。而且,它无缝适应多样的边界条件。我们的实证观察表明,MgNO 相较于其他基于 CNN 的模型表现出更优的训练便利性,同时与谱型神经算子相比表现出更低的过拟合倾向。我们在不同类型的偏微分方程(PDEs)上以一贯的 SOTA 性能展示了我们方法的效率与准确性。
引用
@article{arxiv.2310.19809,
title = {MgNO: Efficient Parameterization of Linear Operators via Multigrid},
author = {Juncai He and Xinliang Liu and Jinchao Xu},
journal= {arXiv preprint arXiv:2310.19809},
year = {2024}
}