高维异方差数据下PCA的渐近性能
统计理论
2019-06-14 v4 统计理论
摘要
主成分分析(PCA)是一种经典的数据降维方法,通过将数据投影到捕获其大部分变化的子空间来实现。在现代应用中有效使用PCA需要理解其对高维且异方差数据的性能。本文分析了PCA在此设定下的统计性能,即对于从低维子空间抽取并受异方差噪声退化的高维数据。我们提供了PCA对底层子空间、子空间幅度和子空间系数的渐近恢复的简化表达式;这些表达式使得对PCA性能的计算和推理既容易又高效。我们利用这些表达式的结构证明,对于固定的平均噪声方差,PCA对异方差数据的渐近恢复总是比对同方差数据(即跨样本噪声方差相等)更差。因此,尽管平均噪声方差通常是衡量数据整体质量的实用便利指标,但它对异方差数据下PCA性能给出了过于乐观的估计。
引用
@article{arxiv.1703.06610,
title = {Asymptotic performance of PCA for high-dimensional heteroscedastic data},
author = {David Hong and Laura Balzano and Jeffrey A. Fessler},
journal= {arXiv preprint arXiv:1703.06610},
year = {2019}
}
备注
34 pages (including supplement), 17 figures