中文

迈向欧几里得空间中稀疏降维的统一理论

数据结构与算法 2015-08-27 v4 计算几何 信息论 math.IT 概率论 机器学习

摘要

ΦRm×n\Phi\in\mathbb{R}^{m\times n} 为一个每列含有 ss 个非零元素的稀疏 Johnson-Lindenstrauss 变换 [KN14]。对于单位球面的子集 TT 和给定的 ε(0,1/2)\varepsilon\in(0,1/2),我们研究了为确保 EΦsupxTΦx221<ε, \mathop{\mathbb{E}}_\Phi \sup_{x\in T} \left|\|\Phi x\|_2^2 - 1 \right| < \varepsilon , 所需的 m,sm,s 设置,即确保 Φ\Phi 同时且以乘法方式将每个 xTx\in T 的范数保持到 1+ε1+\varepsilon 以内。我们引入了一个新的复杂度参数,该参数取决于 TT 的几何结构,并表明只需选择 ssmm 使得该参数足够小即可。我们的结果是 Gordon 定理的稀疏类比,后者关注的是具有独立同分布高斯项的稠密 Φ\Phi。我们在定性上统一了若干与 Johnson-Lindenstrauss 引理、子空间嵌入和基于傅里叶的受限等距性质相关的结果。我们的工作还意味着在使用稀疏 Johnson-Lindenstrauss 变换进行数值线性代数、经典和基于模型的压缩感知、流形学习以及约束最小二乘问题(如 Lasso)方面取得了新成果。

关键词

引用

@article{arxiv.1311.2542,
  title  = {Toward a unified theory of sparse dimensionality reduction in Euclidean space},
  author = {Jean Bourgain and Sjoerd Dirksen and Jelani Nelson},
  journal= {arXiv preprint arXiv:1311.2542},
  year   = {2015}
}