非欧几里得经验风险最小化的黑盒一致稳定性
机器学习
2024-12-23 v1 最优化与控制
机器学习
摘要
我们研究对于关于-范数()凸且光滑的经验风险最小化(ERM)问题具有一致稳定性的的一阶算法。我们提出了一种黑盒约简方法,通过利用一致凸正则化子的性质,将Hölder光滑凸损失的优化算法转化为一致稳定学习算法,并具有关于超额风险的最优统计风险界(至多依赖于的常数因子)。实现一致稳定性的黑盒约简是由Attia和Koren(2022)提出的一个开放问题,他们解决了欧几里得情形。我们探索了利用非欧几里得几何解决二分类问题的应用。
引用
@article{arxiv.2412.15956,
title = {Black-Box Uniform Stability for Non-Euclidean Empirical Risk Minimization},
author = {Simon Vary and David Martínez-Rubio and Patrick Rebeschini},
journal= {arXiv preprint arXiv:2412.15956},
year = {2024}
}
备注
33 pages, no figures