Banach空间中线性反问题的随机梯度下降收敛性
机器学习
2023-02-13 v1 最优化与控制
摘要
在本工作中,我们考虑使用随机梯度下降(SGD)求解Banach空间中的线性反问题。SGD及其变体已被确立为机器学习、成像和信号处理等领域最成功的优化方法之一。SGD在每次迭代中使用单个数据或一小部分数据,从而得出高度可扩展的方法,对大规模反问题极具吸引力。然而,迄今为止基于SGD的反问题理论分析主要局限于欧氏空间与Hilbert空间。在本工作中,我们给出了Banach空间中线性反问题SGD的新型收敛分析:我们展示了迭代点几乎必然收敛于最小范数解,并针对合适的先验停止准则建立了正则化性质。还给出了数值结果以说明该方法的特征。
引用
@article{arxiv.2302.05197,
title = {On the Convergence of Stochastic Gradient Descent for Linear Inverse Problems in Banach Spaces},
author = {Z. Kereta and B. Jin},
journal= {arXiv preprint arXiv:2302.05197},
year = {2023}
}