稀疏张量PCA中的全有或全无现象
统计理论
2020-09-08 v2 信息论
math.IT
统计理论
摘要
我们研究在加性高斯噪声干扰下估计秩一稀疏张量的统计问题,该模型也称为稀疏张量PCA。我们证明,对于Bernoulli和Bernoulli-Rademacher分布的信号,且对于信号维度中次线性的所有稀疏水平,稀疏张量PCA模型表现出一种称为全有或全无现象的相变。该性质是指,对于某个信噪比(SNR) 和任意固定的 ,若模型的SNR低于 ,则不可能与隐藏信号达到任意小的常数相关性;而若SNR高于 ,则可以与隐藏信号达到几乎完美的相关性。全有或全无现象最初在稀疏线性回归的背景下确立,并在过去一年中也在稀疏2-张量(矩阵)PCA、Bernoulli群体检测和广义线性模型的背景下得到证实。我们的结果源于一个更一般的结论:对于任何具有离散均匀先验的高斯加性模型,全有或全无现象是所定义先验分布支撑的适当“近正交”性质的直接结果。
引用
@article{arxiv.2007.11138,
title = {The All-or-Nothing Phenomenon in Sparse Tensor PCA},
author = {Jonathan Niles-Weed and Ilias Zadik},
journal= {arXiv preprint arXiv:2007.11138},
year = {2020}
}
备注
Corrected a typo in the statement of Theorem 3