指数凹随机最小化的最优草图界限
机器学习
2019-09-24 v7 机器学习
摘要
我们根据有效维度推导了指数凹随机最小化的最优统计与计算复杂度界限。对于总体协方差矩阵的常见特征衰减模式，该量显著小于环境维度。我们的结果揭示了与数值线性代数中草图结果的有趣联系。特别地，我们的统计分析突出了经验风险最小化的算法稳定性与岭杠杆分数之间一种新颖而自然的关系，后者在基于草图的方法中起着重要作用。我们的主要计算结果是，在指数凹经验风险最小化的背景下，对草图预处理方法的一种快速实现。
引用
@article{arxiv.1805.08268,
title = {Optimal Sketching Bounds for Exp-concave Stochastic Minimization},
author = {Naman Agarwal and Alon Gonen},
journal= {arXiv preprint arXiv:1805.08268},
year = {2019}
}