针对带任意凸正则化器的指数凹经验最小化的简单分析
机器学习
2017-09-12 v1 机器学习
最优化与控制
摘要
在本文中,我们给出了一个简单分析,关于在有限维有界凸集上、具有指数凹损失函数和任意凸正则化的随机复合优化中,经验最小化以高概率获得快速率。据我们所知,这一结果是此类中的首个。作为副产品,我们可以直接获得带与不带任何凸正则化的指数凹经验风险最小化以高概率的快速率,这不仅扩展了现有的经验风险最小化结果,而且为分析带与不带任何凸正则化的指数凹经验风险最小化提供了统一框架。我们的证明非常简单,仅利用了有限维有界集的覆盖数和随机向量的浓度不等式。
引用
@article{arxiv.1709.02909,
title = {A Simple Analysis for Exp-concave Empirical Minimization with Arbitrary Convex Regularizer},
author = {Tianbao Yang and Zhe Li and Lijun Zhang},
journal= {arXiv preprint arXiv:1709.02909},
year = {2017}
}