随机梯度朗之万动力学的泛函中心极限定理与强大数定律
概率论
2023-08-01 v2 机器学习
最优化与控制
摘要
我们研究机器学习中一种重要优化算法：固定步长的随机梯度朗之万动力学（SGLD）的混合性质。数据流不被假设为独立的，因此 SGLD 不是马尔可夫链，而仅仅是\emph{随机环境中的马尔可夫链}，这极大增加了数学处理的复杂性。我们推导了 SGLD 的强大数定律与泛函中心极限定理。
引用
@article{arxiv.2210.02092,
title = {Functional Central Limit Theorem and Strong Law of Large Numbers for Stochastic Gradient Langevin Dynamics},
author = {Attila Lovas and Miklós Rásonyi},
journal= {arXiv preprint arXiv:2210.02092},
year = {2023}
}
备注
16 pages