通过自边界函数得到蒙特卡洛拉德马赫平均的更紧收敛界
机器学习
2021-01-19 v2 概率论
机器学习
摘要
我们推导了蒙特卡洛经验拉德马赫平均（MCERA）更紧的概率集中界，这些界通过近期关于自边界函数集中的结果得到证明。我们的新界的特征是收敛速率依赖于所考虑函数集合的数据相关特征量，例如经验弱方差，相对于基于有界差分方法的标准界而言这是本质改进。因此，我们的新结果可用于给出（局部）拉德马赫平均的更紧界。我们还通过应用 Bousquet 不等式以及对弱方差的新数据相关界，针对仅使用一个拉德马赫随机变量向量来计算 MCERA 的特殊情况推导了改进的新方差相关界。然后，我们利用自边界函数的框架推导了关于上确界偏差的新概率界，这可能有独立的意义。
引用
@article{arxiv.2010.12103,
title = {Sharper convergence bounds of Monte Carlo Rademacher Averages through Self-Bounding functions},
author = {Leonardo Pellegrina},
journal= {arXiv preprint arXiv:2010.12103},
year = {2021}
}