基于卷积神经算子的数学习题迁移求解偏微分方程

卷积神经算子是一种近期提出的 CNN 架构,旨在强制连续-离散等价并实现对偏微分方程解算子无别名的真正学习。该神经算子在某些情况下已证明优于 DeepONet、傅里叶神经算子和 Galerkin transformer 等基线模型,在表示 surrogate 精度方面具有优势。然而,卷积神经算子似乎尚未在few-shot学习中得到验证。我们将该模型扩展到few-shot学习场景,首先使用源数据集进行预训练,然后仅使用小型目标数据集调整训练好的神经算子的参数。我们研究了调整训练好神经算子参数的三种策略,包括微调、低秩适配和神经元线性变换,发现神经元线性变换策略在求解如库尔马托-西瓦西尼方程、布鲁塞尔反应扩散系统以及纳维-斯托克斯方程等偏微分方程时,拥有最高的 surrogate 精度。