中文

无$\ell_{2,\infty}$正则化的非凸矩形矩阵补全的梯度下降法

机器学习 2020-05-22 v3 机器学习

摘要

由于计算上的便利性,非凸矩阵补全的分析近来在机器学习界引起了大量关注。然而,对此问题的现有分析通常依赖于涉及未知模型参数的2,\ell_{2,\infty}投影或正则化,尽管在数值模拟中观察到它们是不必要的,例如参见Zheng和Lafferty [2016]。在本文中,我们将Ma等人[2017]中提出的用于半正定矩阵补全的普通梯度下降的分析扩展到矩形情形,并且更重要的是,将所需的采样率从O(poly(κ)μ3r3log3n/n)O(\operatorname{poly}(\kappa)\mu^3 r^3 \log^3 n/n )提升到O(μ2r2κ14logn/n)O(\mu^2 r^2 \kappa^{14} \log n/n )。我们的技术思路和贡献在改进其他相关问题中的留一法分析方面具有潜在用处。

关键词

引用

@article{arxiv.1901.06116,
  title  = {Nonconvex Rectangular Matrix Completion via Gradient Descent without $\ell_{2,\infty}$ Regularization},
  author = {Ji Chen and Dekai Liu and Xiaodong Li},
  journal= {arXiv preprint arXiv:1901.06116},
  year   = {2020}
}