Banach空间间全纯算子的最优深度学习
机器学习
2024-10-31 v2 数值分析
数值分析
摘要
算子学习问题出现在许多关键的科学计算领域,其中偏微分方程(PDE)被用于模拟物理系统。在此类场景中,算子映射于Banach空间或Hilbert空间之间。与以往绝大多数仅考虑Hilbert空间的工作不同,本文致力于学习Banach空间之间的算子。我们专注于学习全纯算子——这是一类具有众多应用的重要问题。我们将任意近似编码器和解码器与标准的前馈深度神经网络(DNN)架构(具体而言,是宽度超过深度的恒定宽度架构)相结合,并在标准损失最小化框架下进行。我们首先确定了一类DNN,使得由此产生的深度学习(DL)过程能够为这类算子实现最优的泛化界。对于标准的全连接架构,我们随后证明存在不可数多个训练问题的最优解,它们能产生等效的最优性能。我们考虑的DNN架构是“问题无关的”,其宽度和深度仅取决于训练数据量,而不依赖于目标算子的正则性假设。接着,我们证明深度学习对于该问题是最优的:没有任何恢复过程能在对数项内超越这些泛化界。最后,我们展示了在包括参数化扩散、Navier-Stokes-Brinkman和Boussinesq PDE等具有挑战性问题上的数值结果,证明了其实用性能。
引用
@article{arxiv.2406.13928,
title = {Optimal deep learning of holomorphic operators between Banach spaces},
author = {Ben Adcock and Nick Dexter and Sebastian Moraga},
journal= {arXiv preprint arXiv:2406.13928},
year = {2024}
}