协方差矩阵谱投影子的贝叶斯推断

设 $X_1, \ldots, X_n$ 为 $\mathbb{R}^p$ 中零均值、协方差矩阵为 $\mathbf{\Sigma^*}$ 的 i.i.d. 样本。经典 PCA 方法通过其经验对应量 $\mathbf{\widehat{P}_{\mathcal{J}}}$ 来恢复 $\mathbf{\Sigma^*}$ 主特征空间上的投影子 $\mathbf{P^*_{\mathcal{J}}}$。近期文献 [Koltchinskii, Lounici (2017)] 研究了投影子间 Frobenius 距离 $\| \mathbf{\widehat{P}_{\mathcal{J}}} - \mathbf{P^*_{\mathcal{J}}} \|_2$ 的渐近分布,而 [Naumov et al. (2017)] 提出了一种自助法(bootstrap)程序,即使在有限样本情形下也能度量恢复该子空间 $\mathbf{P^*_{\mathcal{J}}}$ 的不确定性。本文从贝叶斯视角考察该问题,并建议使用由共轭逆 Wishart 先验诱导的协方差矩阵空间上伪后验分布的可信集作为尖锐置信集。这给出了一个数值高效的程序。此外,我们从理论上论证了该方法,并推导了相应覆盖概率的有限样本界。与 [Koltchinskii, Lounici (2017), Naumov et al. (2017)] 不同,所得结果对非高斯数据亦成立:我们所施加的主要假设是样本协方差 $\mathbf{\widehat{\Sigma}}$ 在 $\mathbf{\Sigma^*}$ 邻域内的集中性。数值模拟表明,即使在相当困难的 regime 下,所提程序在非高斯数据上也有良好表现。