中文

稀疏张量PCA中的全有或全无现象

统计理论 2020-09-08 v2 信息论 math.IT 统计理论

摘要

我们研究在加性高斯噪声干扰下估计秩一稀疏张量的统计问题,该模型也称为稀疏张量PCA。我们证明,对于Bernoulli和Bernoulli-Rademacher分布的信号,且对于信号维度中次线性的所有稀疏水平,稀疏张量PCA模型表现出一种称为全有或全无现象的相变。该性质是指,对于某个信噪比(SNR) SNRc\mathrm{SNR_c} 和任意固定的 ϵ>0\epsilon>0,若模型的SNR低于 (1ϵ)SNRc\left(1-\epsilon\right)\mathrm{SNR_c},则不可能与隐藏信号达到任意小的常数相关性;而若SNR高于 (1+ϵ)SNRc\left(1+\epsilon \right)\mathrm{SNR_c},则可以与隐藏信号达到几乎完美的相关性。全有或全无现象最初在稀疏线性回归的背景下确立,并在过去一年中也在稀疏2-张量(矩阵)PCA、Bernoulli群体检测和广义线性模型的背景下得到证实。我们的结果源于一个更一般的结论:对于任何具有离散均匀先验的高斯加性模型,全有或全无现象是所定义先验分布支撑的适当“近正交”性质的直接结果。

关键词

引用

@article{arxiv.2007.11138,
  title  = {The All-or-Nothing Phenomenon in Sparse Tensor PCA},
  author = {Jonathan Niles-Weed and Ilias Zadik},
  journal= {arXiv preprint arXiv:2007.11138},
  year   = {2020}
}

备注

Corrected a typo in the statement of Theorem 3