从频率偏差到谱平衡：针对 PINNs 的算子感知 preconditioner
数值分析
2026-03-03 v1 数值分析
摘要
当神经网络（NN）用作求解偏微分方程（PDE）的非线性参数表示时，往往显示出与直接函数逼近任务不同的频率依赖学习动力学，这源于 NN 表示的频率偏差与底层微分算子频率偏差之间的平衡。尽管许多常用 NN 在表示上偏向低频模式，但包含在损失函数中的微分算子会放大高频分量，导致高频偏差。在本工作中，以二阶椭圆 PDE 为例，我们展示了这两个因素如何在不同情况下竞争并导致不同的整体频率偏差。一旦确定了平衡，重要的是设计计算策略来抵消结果偏差以提高训练效率。我们提出了一种简单的算子感知 preconditioning 策略，通过对残差应用辅助积分算子来重新平衡优化景观和学习动力学。积分核可以是参考椭圆算子的 Green's 函数或近似值，易于与常见的 NN PDE 求解器集成。广泛的实验，包括多尺度和可变系数问题，表明该方法在不同模式上恢复了更平衡的学习动力学，显著改善了收敛性和准确性。
引用
@article{arxiv.2603.00904,
title = {From Frequency Bias to Spectral Balance: Operator-Aware Preconditioners for PINNs},
author = {Roy Y. He and Ying Liang and Hongkai Zhao and Yimin Zhong},
journal= {arXiv preprint arXiv:2603.00904},
year = {2026}
}