随机梯度搜索的渐近偏差
统计理论
2017-09-04 v1 最优化与控制
机器学习
统计理论
摘要
分析了具有偏梯度估计器的随机梯度算法的渐近行为。基于动力系统理论（链递归）和微分几何（Yomdin定理和Lojasiewicz不等式）的论证，推导了此类算法生成的迭代的渐近偏差的紧界。所得结果在温和条件下成立，并涵盖广泛的高维非线性算法。利用这些结果，研究了策略梯度（强化）学习和自适应总体蒙特卡洛采样中的渐近性质。基于相同结果，还分析了隐马尔可夫模型中递归最大分裂似然估计的渐近行为。
引用
@article{arxiv.1709.00291,
title = {Asymptotic Bias of Stochastic Gradient Search},
author = {Vladislav B. Tadic and Arnaud Doucet},
journal= {arXiv preprint arXiv:1709.00291},
year = {2017}
}
备注
arXiv admin note: text overlap with arXiv:0907.1020