统计估计中SDCA的线性收敛
机器学习
2017-04-04 v4 机器学习
摘要
在本文中，我们考虑随机对偶坐标（SDCA）{\em 不带}强凸假设或凸假设的情况。我们表明，在称为限制强凸性的温和条件下，SDCA 线性收敛。这涵盖了广泛的流行统计模型，包括带有 正则化的 Lasso、组 Lasso 和逻辑回归、修正 Lasso 以及带有 SCAD 正则化器的线性回归。这显著改进了先前关于非强凸问题 SDCA 的收敛结果。作为副产品，我们推导出一种可处理一般正则化项的 SDCA 对偶自由形式，这本身具有研究意义。
引用
@article{arxiv.1701.07808,
title = {Linear convergence of SDCA in statistical estimation},
author = {Chao Qu and Huan Xu},
journal= {arXiv preprint arXiv:1701.07808},
year = {2017}
}