子空间中植入向量的最优谱恢复

在 $\mathbb{R}^N$ 的 $n$ 维随机子空间中恢复一个植入向量 $v$ 是一项通用任务，与机器学习和统计中的许多问题相关，例如字典学习、子空间恢复、主成分分析和非高斯成分分析。在这项工作中，我们研究了在计算上高效地估计和检测一个植入向量 $v$ 的问题，该向量的 $\ell_4$ 范数不同于具有相同 $\ell_2$ 范数的高斯向量。例如，在 $v$ 是具有 Bernoulli-Gaussian 或 Bernoulli-Rademacher 条目的 $N \rho$-稀疏向量的特殊情况下，我们的结果包括以下内容：（1）我们给出了对 Hopkins、Schramm、Shi 和 Steurer（2016）提出的谱方法的一个微小变体的改进分析，表明它在 $n \rho \ll \sqrt{N}$ 机制下以高概率近似恢复 $v$。该条件在至多多对数因子意义下包含了先前工作所需的 $\rho \ll 1/\sqrt{n}$ 或 $n \sqrt{\rho} \lesssim \sqrt{N}$ 条件。我们通过留一法分析得到了谱估计量的 $\ell_\infty$ 误差界，由此得出一个简单的阈值处理过程可以精确恢复具有 Bernoulli-Rademacher 条目的 $v$，即使在稠密情形 $\rho = 1$ 下也是如此。（2）我们研究了相关的检测问题，并表明在 $n \rho \gg \sqrt{N}$ 机制下，来自一大类的任何谱方法（更一般地，输入的任意低次多项式）都无法检测到植入向量。这与恢复条件相匹配，并提供了证据，表明当 $n \rho \gg \sqrt{N}$ 时，任何多项式时间算法都无法成功恢复 Bernoulli-Gaussian 向量 $v$。