无强凸性下Ruppert-Polyak平均的最优非渐近界
统计理论
2017-09-12 v1 统计理论
摘要
本文致力于对[Rup88]与[PJ92]开创性贡献中引入的Ruppert-Polyak随机平均梯度下降的均方误差进行非渐近控制。在主要结果中，我们在一个非常一般的框架下建立了非渐近紧界（关于Cramer-Rao下界最优），该框架包含一致强凸情形以及待最小化函数 满足较弱Kurdyka-Lojasiewicz型条件[Loj63, Kur98]的情形。特别地，由此可恢复一些病态例子，例如逻辑回归的在线学习（见[Bac14]）与递归分位数估计（甚至是非凸情形）。
引用
@article{arxiv.1709.03342,
title = {Optimal non-asymptotic bound of the Ruppert-Polyak averaging without strong convexity},
author = {Sébastien Gadat and Fabien Panloup},
journal= {arXiv preprint arXiv:1709.03342},
year = {2017}
}
备注
41 pages