中文

紧致 $\ell_2$ 回归的降低标签复杂度方法

机器学习 2023-05-15 v1 数据结构与算法

摘要

给定数据 XRn×d{\rm X}\in\mathbb{R}^{n\times d} 与标签 yRn\mathbf{y}\in\mathbb{R}^{n},目标是找到 wRd\mathbf{w}\in\mathbb{R}^d 以最小化 Xwy2\Vert{\rm X}\mathbf{w}-\mathbf{y}\Vert^2。我们给出一种多项式时间算法,该算法在\emph{忽略 y\mathbf{y}} 的情况下丢弃 n/(d+n)n/(d+\sqrt{n}) 个数据点,并在期望下成为最优解的 (1+d/n)(1+d/n)-近似。其动机是以降低的标签复杂度(所揭示标签的数量)实现紧致近似。我们将标签复杂度降低了 Ω(n)\Omega(\sqrt{n})。开放问题:能否以紧致 (1+d/n)(1+d/n)-近似将标签复杂度降低 Ω(n)\Omega(n)

关键词

引用

@article{arxiv.2305.07486,
  title  = {Reduced Label Complexity For Tight $\ell_2$ Regression},
  author = {Alex Gittens and Malik Magdon-Ismail},
  journal= {arXiv preprint arXiv:2305.07486},
  year   = {2023}
}