基于光滑神经网络低维偏微分方程非线性逼近的自适应求积法

物理信息神经网络（PINNs）及其变体近来作为传统偏微分方程（PDE）求解器的替代方案出现，但鲜有文献关注为神经网络（NNs）设计精确的数值积分方法，而这对获得精确解至关重要。本文中，我们提出用于神经网络精确积分的自适应求积法，并将其应用于低维PDE离散化中出现的损失函数。我们表明，在光谱的两端，连续分段线性（CPWL）激活函数使人能够界定积分误差，而光滑激活函数则简化了优化问题的收敛。我们通过考虑光滑激活函数的CPWL逼近来取得平衡。CPWL激活用于获得域的自适应分解，将其划分为网络近乎线性的区域，并由此网格导出自适应全局求积。随后通过在求积点处评估光滑网络（连同其他量，例如强迫项）得到损失函数。我们提出一种用CPWL函数逼近一类光滑激活函数的方法，并证明其具有二次收敛速率。接着我们导出所提自适应求积总体积分误差的上界。我们的求积方法的优势在一维和二维Poisson方程的强形式与弱形式上进行了评估。数值实验表明，与蒙特卡洛积分相比，我们的自适应求积使神经网络的收敛更快且对参数初始化更鲁棒，同时所需积分点显著更少且保持相近的训练时间。