面向高维高频偏微分方程的Kolmogorov高阶深度神经网络

本文提出了一种用于求解高维偏微分方程（PDEs）的 Kolmogorov 高阶深度神经网络（K-HOrderDNN），该网络改进了高阶深度神经网络（HOrderDNNs）。HOrderDNNs 通过引入一个由 $(p+1)^d$ 个基函数组成的非线性变换层，已被证明在处理高频问题时优于传统 DNN。然而，基函数的数量随维度 $d$ 呈指数增长，这导致了维度灾难（CoD）。受 Kolmogorov 叠加定理（KST）的启发，该定理将多元函数表示为单变量函数与加法的叠加，K-HOrderDNN 利用一个 HOrderDNN 来高效逼近单变量内部函数，而非直接逼近多元函数，从而将引入的基函数数量减少至 $d(p+1)$。我们从理论上证明，当目标函数属于连续多元函数的一个稠密子集时，维度灾难得以缓解。大量数值实验表明：对于 HOrderDNNs（$p>1$）难以处理的高维问题（$d$=10, 20, 50），K-HOrderDNNs（$p>1$）表现出卓越的性能。具体而言，当 $d=10$ 时，K-HOrderDNN（$p=7$）的误差为 4.40E-03，比 HOrderDNN（$p=1$）低两个数量级（见表 10）；对于高频问题，与 HOrderDNNs 相比，K-HOrderDNNs（$p>1$）能以更少的参数和更快的收敛速度达到更高的精度（见表 8）。