基于神经张量核分析的物理信息神经求解器收敛性探讨:PIKANs 与 PINNs
机器学习
2025-06-10 v1 数学物理
偏微分方程分析
math.MP
谱理论
摘要
物理信息Kolmogorov-Arnold网络(PIKANs),特别是其切比雪夫基函数变体(cPIKANs)最近作为求解偏微分方程(PDE)的有前景模型而涌现。然而,其训练动力学和收敛行为在理论和数值上仍鲜有探讨。本文旨在通过神经张量核(NTK)理论深化对cPIKANs的理论理解。我们的目标是辨识在基于梯度的训练过程中核结构的演变及其对学习效率的后续影响。我们首先推导了标准cKANs在监督环境下的NTK,然后将分析扩展到物理信息情境。我们分析了NTK矩阵的谱特性,具体包括特征值分布和谱偏置,针对四个典型偏微分方程进行研究:稳态Helmholtz方程、瞬态扩散方程和Allen-Cahn方程,以及受欧拉-伯努利梁方程支配的受力振动问题。我们还考察了各种优化策略(如一阶、二阶和混合方法)对NTK演变及其导致的学习动力学的影响。结果表明,cPIKANs的NTK在实际应用中表现出可分析的行为,这揭示了标准物理信息神经网络(PINNs)无法捕捉的学习动力学。谱趋势也揭示了在不同设置下域分解何时能改善训练,直接将核行为与收敛速率联系起来。鉴于本文是cPIKANs首次进行系统性NTK研究,为该模型提供了理论视角,阐明并预测其实际性能。
引用
@article{arxiv.2506.07958,
title = {Neural Tangent Kernel Analysis to Probe Convergence in Physics-informed Neural Solvers: PIKANs vs. PINNs},
author = {Salah A. Faroughi and Farinaz Mostajeran},
journal= {arXiv preprint arXiv:2506.07958},
year = {2025}
}