尖峰 Wigner 模型中的有限尺寸修正与似然比涨落
统计理论
2017-10-10 v1 信息论
math.IT
概率论
统计理论
摘要
本文研究高维高噪声情形下的主成分分析。问题的模型是一个秩一扰动的 Wigner 矩阵,其中信噪比(SNR)为常数阶,我们关注检测尖峰的基本极限。主要目标是精细理解对数似然比过程(也称为自由能)作为 SNR 函数的渐近行为。主要结果有两方面。首先,我们证明自由能对其极限——副本对称公式——存在有限尺寸修正,并显式计算了该修正。这给出了植入模型与零模型之间 Kullback-Leibler 散度的公式。其次,我们证明在重构阈值以下(此时重构尖峰已不可能),对数似然比具有常数阶涨落,并在植入模型和(一定限制下的)零模型下均依分布收敛于高斯分布。由此,我们给出了这两个分布在重构阈值以下保持 contiguity 的一般性证明,且该证明对尖峰上任意可分离先验均有效。还给出了全变差距离以及最优检验的 I 类与 II 类错误的公式。我们的证明基于 Guerra 和 Talagrand 在研究 Sherrington–Kirkpatrick 自旋玻璃模型时设计的高斯插值方法及腔方法的严格实现。
引用
@article{arxiv.1710.02903,
title = {Finite Size Corrections and Likelihood Ratio Fluctuations in the Spiked Wigner Model},
author = {Ahmed El Alaoui and Florent Krzakala and Michael I. Jordan},
journal= {arXiv preprint arXiv:1710.02903},
year = {2017}
}
备注
40 pages, 2 figures