基于深度平衡的神经算子用于稳态偏微分方程

数据驱动的机器学习方法正越来越多地用于求解偏微分方程（PDEs）。当训练一个以某类 PDE 为输入并输出其解的操作子时，它们取得了尤为惊人的成功。然而，鉴于对所关注 PDE 族的结构性认知，其架构设计空间仍知之甚少。我们旨在通过研究权重绑定神经网络架构对稳态 PDE 的益处来弥补这一差距。为此，我们首先证明大多数稳态 PDE 的解可表示为一个非线性操作子的不动点。受此观察启发，我们提出了 FNO-DEQ，即 FNO 架构的深度平衡变体，它使用黑盒求根器将稳态 PDE 的解直接求解为隐式操作子层的无限深度不动点，并通过该不动点进行解析微分，从而获得 $\mathcal{O}(1)$ 的训练内存。我们的实验表明，在预测 Darcy 流和稳态不可压缩 Navier-Stokes 等稳态 PDE 的解时，基于 FNO-DEQ 的架构以 $4\times$ 参数量优于基于 FNO 的基线。最后，我们展示了 FNO-DEQ 在采用含更多噪声观测的数据集训练时比基于 FNO 的基线更具鲁棒性，证明了在不同基于神经网络的 PDE 求解器中采用适当归纳偏置的益处。此外，我们给出了一个通用逼近结果，表明 FNO-DEQ 可逼近任何可写为不动点方程的稳态 PDE 的解。