Grid-Dependent Physics-Informed Kolmogorov-Arnold 网络自适应训练方法
机器学习
2024-12-05 v2 计算物理
摘要
Physics-Informed Neural Networks (PINNs) 已成为一种强大的框架,用于通过神经网络逼近偏微分方程的解并在损失函数中施加基于物理的约束。传统上,多层感知机 (MLP) 是神经网络的首选选择,训练优化方面取得了显著进展。最近,Kolmogorov-Arnold Networks (KANs) 被引入作为一种可行的替代方案,具有更好的可解释性和效率,并需要更少的参数。在本文中,我们提出了基于 JAX 的快速实现,用于求解偏微分方程的网格依赖 Physics-Informed Kolmogorov-Arnold 网络 (PIKANs),实现了比原始 KAN 实现快 84 倍的训练速度。我们提出了 PIKANs 的自适应训练方案,引入一种用于避免在网格扩展之间损失函数峰值的自适应状态转换技术,并提出了设计具有替代基函数的 PIKANs 的方法。通过对比实验,我们证明了这些自适应特征显著提高了解的准确性,将相对于参考解的 L^2 误差降低最高可达 43.02%。对于所研究的偏微分方程,我们的方法的效果可达到或超过那些使用最多 8.5 倍参数的体系结构,凸显了自适应网格依赖 PIKANs 作为科学和工程应用中更优替代方案的潜力。
引用
@article{arxiv.2407.17611,
title = {Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks},
author = {Spyros Rigas and Michalis Papachristou and Theofilos Papadopoulos and Fotios Anagnostopoulos and Georgios Alexandridis},
journal= {arXiv preprint arXiv:2407.17611},
year = {2024}
}