关于 p-范数球上随机凸优化问题与经验风险最小化问题的关系
最优化与控制
2022-03-03 v2
摘要
在本文中，我们考虑机器学习应用（例如风险最小化）和数理统计（例如极大似然估计）中出现的凸随机优化问题。解决此类问题主要有两种方法，即随机逼近方法（在线方法）和样本平均逼近方法（也称为蒙特卡洛方法，离线方法）。在离线方法中，该问题被其经验对应问题（经验风险最小化问题）所替代。一个自然的问题是如何确定问题样本量，即应抽取多少个实现，使得经验问题的相当精确的解以所需精度成为原问题的解。该问题是现代机器学习和优化中的主要问题之一。在过去十年中，这些领域在解决欧几里得球（或整个空间）上的凸随机优化问题方面取得了许多重大进展。在这项工作中，我们基于这些进展，研究 ℓ_p-范数中任意球的情况。我们还探讨了参数 p 如何影响作为经验风险函数的所需项数估计。
引用
@article{arxiv.2202.01805,
title = {On the relations of stochastic convex optimization problems with empirical risk minimization problems on $p$-norm balls},
author = {Darina Dvinskikh and Vitali Pirau and Alexander Gasnikov},
journal= {arXiv preprint arXiv:2202.01805},
year = {2022}
}
备注
14 pages, in Russian