中文

弱恢复的基本极限及其在相位恢复中的应用

机器学习 2018-07-27 v3 信息论 math.IT

摘要

在相位恢复中,我们希望从 nn 个形如 yi=ai,x2+wiy_i = |\langle{\boldsymbol a}_i,{\boldsymbol x}\rangle|^2+w_i 的二次测量中恢复未知信号 xCd\boldsymbol x\in\mathbb C^d,其中 aiCd\boldsymbol a_i\in \mathbb C^d 是已知的传感向量,wiw_i 是测量噪声。我们提出以下弱恢复问题:产生一个与信号 x\boldsymbol x 正相关的估计器 x^(y)\hat{\boldsymbol x}(\boldsymbol y) 所需的最少测量数 nn 是多少?我们考虑高斯向量 ai\boldsymbol a_i 的情况。我们证明——在高维极限下——发生了敏锐的相变,并且我们在噪声趋于零的机制下定位了阈值。对于 ndo(d)n\le d-o(d),没有任何估计器能做得显著优于随机并实现严格正的相关性。对于 nd+o(d)n\ge d+o(d),一个简单的谱估计器即可实现正相关性。令人惊讶的是,使用相同谱估计器的数值模拟表明,其在现实的传感矩阵下也展现出良好的性能。谱方法被用于在相位恢复中初始化非凸优化算法,我们的方法也能提升该设置下的性能。我们的不可能性结果基于经典信息论论证。该谱算法计算加权经验协方差矩阵的主特征向量。我们利用自由概率工具并推广了 Lu 和 Li 的近期结果,获得了该随机矩阵谱性质的精确刻画。上界和下界均可推广到相位恢复之外,适用于根据广义线性模型产生的测量 yiy_i。作为我们分析的副产品,我们将所提谱方法的阈值与消息传递算法的阈值进行了比较。

关键词

引用

@article{arxiv.1708.05932,
  title  = {Fundamental Limits of Weak Recovery with Applications to Phase Retrieval},
  author = {Marco Mondelli and Andrea Montanari},
  journal= {arXiv preprint arXiv:1708.05932},
  year   = {2018}
}

备注

63 pages, 3 figures, presented at COLT'18 and accepted at Foundations of Computational Mathematics