用物理信息神经网络攻克维度灾难
机器学习
2024-05-20 v6 人工智能
数值分析
动力系统
数值分析
机器学习
摘要
维度灾难随着维度增加使计算成本呈指数增长，严重消耗计算资源。正如 Richard E. Bellman 六十多年前首次指出的，这给求解高维 PDE 带来巨大挑战。尽管近期在数值求解高维偏微分方程（PDEs）上取得一些成功，此类计算仍昂贵得令人望而却步，且通用非线性 PDE 向高维的真正扩展从未实现。我们开发了一种将物理信息神经网络（PINNs）扩展以求解任意高维 PDE 的新方法。该新方法称为随机维度梯度下降（SDGD），将 PDE 的梯度分解为对应不同维度的片段，并在每次 PINN 训练迭代中随机采样这些维度片段的子集。我们从理论上证明了所提方法的收敛性及其他期望性质。我们在多种不同测试中证明，该方法可求解许多 notoriously 困难的高维 PDE，包括使用 PINNs 无网格方法在单个 GPU 上极快地求解数万维的 Hamilton-Jacobi-Bellman（HJB）与 Schr"{o}dinger 方程。值得注意的是，我们使用 SDGD 与 PINNs 在单个 GPU 上 12 小时内求解了 100,000 有效维中具有非平凡、各向异性且不可分离解的非线性 PDE。由于 SDGD 是 PINNs 的通用训练方法，它可应用于任何当前及未来的 PINN 变体，将其扩展至任意高维 PDE。
引用
@article{arxiv.2307.12306,
title = {Tackling the Curse of Dimensionality with Physics-Informed Neural Networks},
author = {Zheyuan Hu and Khemraj Shukla and George Em Karniadakis and Kenji Kawaguchi},
journal= {arXiv preprint arXiv:2307.12306},
year = {2024}
}
备注
Accepted by Neural Networks. Code is available at https://github.com/zheyuanhu01/SDGD_PINN