高维指数族学习:强凸性与稀疏性
机器学习
2015-05-19 v2 机器学习
摘要
指数族的通用性及其伴随的凸性性质使其成为一种流行且有效的统计模型。一个核心问题是在高维场景下学习这些模型,例如当最优参数存在某种稀疏模式时。本文刻画了一般指数族的某种强凸性性质,该性质可用于量化其泛化能力。特别地,我们展示了如何利用该性质在L_1正则化下分析一般指数族。
引用
@article{arxiv.0911.0054,
title = {Learning Exponential Families in High-Dimensions: Strong Convexity and Sparsity},
author = {Sham M. Kakade and Ohad Shamir and Karthik Sridharan and Ambuj Tewari},
journal= {arXiv preprint arXiv:0911.0054},
year = {2015}
}
备注
Errata added. Incorrect claim about cumulants of the Bernoulli distribution fixed