随机单调算子的强大数定律
最优化与控制
2023-10-24 v3 概率论
摘要
随机单调算子是极大单调算子的随机版本，在随机非光滑优化中起着重要作用。已有若干随机非光滑优化算法被证明收敛到由随机单调算子在Aumann积分意义下的期望所定义的平均算子的零点。在本注记中，我们证明了随机单调算子的一个强大数定律，其极限为平均算子。我们将该结果应用于机器学习中出现的经验风险最小化问题。我们表明，若经验风险最小化子随着数据点数量趋于无穷而收敛，则它们收敛到一个期望风险最小化子。
引用
@article{arxiv.1910.04405,
title = {A Strong Law of Large Numbers for Random Monotone Operators},
author = {Adil Salim},
journal= {arXiv preprint arXiv:1910.04405},
year = {2023}
}