物理信息和算子学习中的谱偏：分析与缓解指南
机器学习
2026-02-24 v1
摘要
通过神经网络求解偏微分方程（PDE）的 methods，包括物理信息神经网络（PINN）、物理信息KAN（PIKAN）以及神经算子，已知会产生谱偏，即解的低频分量的学习速度显著快于高频模式。虽然谱偏常被视为神经网络架构的内在表示局限，但其与优化动力学和基于物理的损失函数 formulation之间的相互作用仍鲜有了解。本文系统性地调查了物理信息和算子学习框架中的谱偏，重点关注网络架构、激活函数、损失函数设计和优化策略之间的相互作用。我们通过频率分辨误差指标、Barron范数诊断以及更高阶统计矩，对谱偏进行量化，实现了对椭圆型、双曲型和离散型PDE的统一分析。通过多样化的基准问题，包括科尔特希格-德 Vries方程、波动方程和稳态扩散-反应方程、湍流流场重构以及地震动力学，我们证明谱偏不仅是表示性的，而是根本性的动力学现象。特别是，二阶优化方法显著改变了谱学习顺序，使其能够更早、更准确地恢复所有类型的PDE的高频模式。对于神经算子，我们进一步表明谱偏取决于神经算子架构，还可以通过无需增加推理成本的谱感知损失函数有效缓解。
引用
@article{arxiv.2602.19265,
title = {Spectral bias in physics-informed and operator learning: Analysis and mitigation guidelines},
author = {Siavash Khodakarami and Vivek Oommen and Nazanin Ahmadi Daryakenari and Maxim Beekenkamp and George Em Karniadakis},
journal= {arXiv preprint arXiv:2602.19265},
year = {2026}
}