在线学习、稳定性与随机梯度下降
机器学习
2015-03-19 v3
摘要
在批量学习中，稳定性连同解的存在性与唯一性对应于经验风险最小化（ERM）方法的适定性；最近有证明表明，CV_loo稳定性是ERM泛化性与一致性的必要充分条件。在本文中，我们引入了CV_on稳定性，它在在线学习中扮演着类似的角色。我们证明了在通常假设下，随机梯度下降（SGD）具有CV_on稳定性，随后讨论了CV_on稳定性对SGD收敛性的影响。
引用
@article{arxiv.1105.4701,
title = {Online Learning, Stability, and Stochastic Gradient Descent},
author = {Tomaso Poggio and Stephen Voinea and Lorenzo Rosasco},
journal= {arXiv preprint arXiv:1105.4701},
year = {2015}
}
备注
11 pages