无强凸性与有界梯度假设下平均随机梯度算法的二次平均收敛性
统计理论
2024-09-16 v2 统计理论
摘要
在线平均随机梯度算法正受到越来越多的研究，因为（i）它们能快速处理取值于高维空间的大样本，（ii）它们能够顺序处理数据，（iii）已知它们具有渐近有效性。本文重点在于给出估计量的二次平均误差的显式界，并且这是在非常弱的假设下，即不假设待最小化函数强凸或具有有界梯度。
引用
@article{arxiv.2107.12058,
title = {Convergence in quadratic mean of averaged stochastic gradient algorithms without strong convexity nor bounded gradient},
author = {Antoine Godichon-Baggioni},
journal= {arXiv preprint arXiv:2107.12058},
year = {2024}
}
备注
Error in a proof