中文

非欧几里得经验风险最小化的黑盒一致稳定性

机器学习 2024-12-23 v1 最优化与控制 机器学习

摘要

我们研究对于关于pp-范数(p1p \geq 1)凸且光滑的经验风险最小化(ERM)问题具有一致稳定性的的一阶算法。我们提出了一种黑盒约简方法,通过利用一致凸正则化子的性质,将Hölder光滑凸损失的优化算法转化为一致稳定学习算法,并具有关于超额风险的最优统计风险界(至多依赖于pp的常数因子)。实现一致稳定性的黑盒约简是由Attia和Koren(2022)提出的一个开放问题,他们解决了欧几里得情形p=2p=2。我们探索了利用非欧几里得几何解决二分类问题的应用。

关键词

引用

@article{arxiv.2412.15956,
  title  = {Black-Box Uniform Stability for Non-Euclidean Empirical Risk Minimization},
  author = {Simon Vary and David Martínez-Rubio and Patrick Rebeschini},
  journal= {arXiv preprint arXiv:2412.15956},
  year   = {2024}
}

备注

33 pages, no figures