算子学习的参数复杂度
机器学习
2025-03-11 v4 数值分析
数值分析
摘要
神经算子架构利用神经网络来逼近映射于函数Banach空间之间的算子;它们可用于通过仿真加速模型评估,或从数据中发掘模型。因此,该方法近年来受到越来越多的关注,催生了迅速发展的算子学习领域。本文的第一个贡献是证明,对于仅由或Lipschitz正则性刻画的一般算子类,算子学习会遭受“参数复杂度诅咒”,这是高维逼近问题中著名的维度诅咒在无限维上的类比。该结果适用于多种现有神经算子,包括PCA-Net、DeepONet和FNO。本文的第二个贡献是证明,对于由Hamilton-Jacobi方程定义的求解算子,这一一般性诅咒可以被克服;这是通过利用底层求解算子中超越正则性的附加结构实现的。为此,本文引入了一种新颖的神经算子架构,称为HJ-Net,它显式地考虑了底层Hamilton系统特征信息。我们推导了HJ-Net的误差与复杂度估计,表明该架构可证明地击败与无限维输入和输出函数空间相关的参数复杂度诅咒。
引用
@article{arxiv.2306.15924,
title = {The Parametric Complexity of Operator Learning},
author = {Samuel Lanthaler and Andrew M. Stuart},
journal= {arXiv preprint arXiv:2306.15924},
year = {2025}
}