中文

验证受限等距性质的平均情况时间复杂度

统计理论 2021-04-23 v3 计算复杂性 机器学习 机器学习 统计理论

摘要

在压缩感知中,M×NM \times N 感知矩阵(其中 M<NM < N)上的受限等距性质(RIP)保证了稀疏向量的高效重建。如果一个矩阵在 ss-稀疏向量上表现为一个 δ\delta-近似等距映射,则该矩阵具有 (s,δ)(s,\delta)-RIP\mathsf{RIP} 性质。众所周知,一个具有独立同分布 N(0,1/M)\mathcal{N}(0,1/M) 条目的 M×NM\times N 矩阵,只要 sδ2M/logNs\lesssim \delta^2 M/\log N,就极有可能具有 (s,δ)(s,\delta)-RIP\mathsf{RIP} 性质。另一方面,大多数先前旨在确定性构造 (s,δ)(s,\delta)-RIP\mathsf{RIP} 矩阵的工作在 sMs \gg \sqrt{M} 时都失败了。寻找 RIP 矩阵的另一种方法可能是抽取一个随机高斯矩阵并验证它确实是 RIP。然而,有证据表明,当 sMs \gg \sqrt{M} 时,无论是在最坏情况还是平均情况下,这个验证任务在计算上都是困难的。在本文中,我们研究了在“可能但困难”的区域 MsM/logN\sqrt{M} \ll s\lesssim M/\log N 内,验证具有独立同分布 N(0,1/M)\mathcal{N}(0,1/M) 条目的 M×NM\times N 矩阵的 RIP 性质的精确平均情况时间复杂度。基于低次似然比的分析,我们给出了严格的证据,表明需要次指数运行时间 NΩ~(s2/M)N^{\tilde\Omega(s^2/M)},这证明了最大容忍稀疏度与所需计算能力之间的平滑权衡。这个下界本质上是紧的,与 Koiran 和 Zouzias 的现有算法的运行时间相匹配。我们的困难性结果允许 δ\delta(0,1)(0,1) 中的任何常数值,这涵盖了压缩感知的相关区域。这改进了 Wang、Berthet 和 Plan 的现有平均情况困难性结果,该结果仅限于 δ=o(1)\delta = o(1) 的情况。

关键词

引用

@article{arxiv.2005.11270,
  title  = {The Average-Case Time Complexity of Certifying the Restricted Isometry Property},
  author = {Yunzi Ding and Dmitriy Kunisky and Alexander S. Wein and Afonso S. Bandeira},
  journal= {arXiv preprint arXiv:2005.11270},
  year   = {2021}
}

备注

14 pages