中文

基于子空间分解的深度神经网络算法求解椭圆型多尺度偏微分方程

机器学习 2021-12-17 v2

摘要

尽管深度学习算法在科学计算中展现出巨大潜力,其在多尺度问题上的应用仍是一大挑战。这体现为“频率原则”——神经网络倾向于先学习低频分量。多尺度深度神经网络(MscaleDNN)等新颖架构在一定程度上缓解了此问题。本文通过结合传统数值分析思想与MscaleDNN算法,针对一类多尺度问题构造了一种基于子空间分解的DNN(称为SD2^2NN)架构。所提架构包含一个低频常规DNN子模块,以及一个(或少数几个)高频MscaleDNN子模块,分别用于捕捉多尺度解的平滑部分与振荡部分。此外,SD2^2NN模型中引入了新颖的三角激活函数。我们通过规则或不规则几何域中的若干基准多尺度问题展示了SD2^2NN架构的性能。数值结果表明,SD2^2NN模型优于MscaleDNN等现有模型。

关键词

引用

@article{arxiv.2112.06660,
  title  = {Subspace Decomposition based DNN algorithm for elliptic type multi-scale PDEs},
  author = {Xi-An Li and Zhi-Qin John Xu and Lei Zhang},
  journal= {arXiv preprint arXiv:2112.06660},
  year   = {2021}
}

备注

19pages,11 figures