随机梯度下降对于非线性不适定问题的收敛性
最优化与控制
2019-07-09 v1 数值分析
数值分析
摘要
在本工作中，我们分析随机梯度下降的正则化性质，用于一类 Hilbert 空间中非线性不适定反问题的高效数值求解。在迭代的每一步，该方法从非线性系统中随机选取一个方程以获得梯度的无偏随机估计，然后利用估计的梯度执行下降步。它是经典 Landweber 非线性反问题方法的随机化版本，对问题规模高度可扩展，并在求解大规模反问题中具有重要潜力。在典型切锥条件下，我们证明了先验停止规则下的正则化性质，并在适当的源条件和值域不变条件下建立了收敛速率。
引用
@article{arxiv.1907.03132,
title = {On the Convergence of Stochastic Gradient Descent for Nonlinear Ill-Posed Problems},
author = {Bangti Jin and Zehui Zhou and Jun Zou},
journal= {arXiv preprint arXiv:1907.03132},
year = {2019}
}