中文

稳定性与收敛率 $\tilde{O}(1/n^2)$ 的更精细风险界限

机器学习 2025-10-31 v2 机器学习

摘要

先前工作(Klochkov 与 Zhivotovskiy,2021)通过算法稳定性为强凸学习器在高概率下建立最多 O(log(n)/n)O\left(\log (n)/n\right) 的剩余风险界限。我们表明,在类似的常见假设下——多项式-Lojasiewicz 条件、光滑性以及损失函数的 Lipschitz 连续性——可实现 O(log2(n)/n2)O\left(\log^2(n)/n^2\right) 的收敛率。鉴于我们分析也为非凸设置中基于梯度的概括间隙提供了最紧的高概率界限。

关键词

引用

@article{arxiv.2410.09766,
  title  = {Stability and Sharper Risk Bounds with Convergence Rate $\tilde{O}(1/n^2)$},
  author = {Bowei Zhu and Shaojie Li and Mingyang Yi and Yong Liu},
  journal= {arXiv preprint arXiv:2410.09766},
  year   = {2025}
}