Deep Ritz方法的收敛速率分析
数值分析
2022-04-13 v2 数值分析
摘要
近来利用深度神经网络求解偏微分方程吸引了大量关注。然而，深度学习 method 为何有效远远落后于其经验成功。本文中，我们对具有Neumann边界条件的二阶椭圆方程的Deep Ritz方法(DRM)提供了严格的数值分析。我们使用具有ReLU^2激活函数的深度网络，建立了DRM在H^1范数下的首个非渐近收敛速率。除了为DRM提供理论依据外，我们的研究还阐明了如何设置深度与宽度的超参数，以根据训练样本数实现期望的收敛速率。在技术上，我们推导了深度ReLU^2网络在H^1范数下的逼近误差界，以及梯度范数与ReLU^2网络的非Lipschitz复合的Rademacher复杂度界，二者均具独立意义。
引用
@article{arxiv.2103.13330,
title = {Convergence Rate Analysis for Deep Ritz Method},
author = {Chenguang Duan and Yuling Jiao and Yanming Lai and Xiliang Lu and Zhijian Yang},
journal= {arXiv preprint arXiv:2103.13330},
year = {2022}
}