稀疏 PCA 中的稀疏一致性与不可知推断
统计理论
2015-03-06 v3 机器学习
统计理论
摘要
稀疏“真值”的存在一直是稀疏主成分分析 (PCA) 理论分析中的恒定假设,并常隐含在其方法论发展中。这自然引发了关于稀疏 PCA 方法性质及其对稀疏性假设依赖程度的问题。在假设真值为稀疏的条件下,相关变量在何种情况下能被一致选择?在不假设存在稀疏且唯一真值的情况下,关于稀疏 PCA 的结果又能得出什么结论?我们通过研究高维设定下最近提出的 Fantope 投影与选择 (FPS) 方法的性质来回答这些问题。我们的结果为 FPS 估计量的稀疏一致性提供了一般充分条件。这些条件较弱,且在其他估计量已知会失效的情况下仍可能成立。另一方面,在不假设稀疏性或可识别性的情况下,我们表明 FPS 提供了一种稀疏的线性降维变换,其在最大化预测协方差方面接近最优。
引用
@article{arxiv.1401.6978,
title = {Sparsistency and agnostic inference in sparse PCA},
author = {Jing Lei and Vincent Q. Vu},
journal= {arXiv preprint arXiv:1401.6978},
year = {2015}
}
备注
Published in at http://dx.doi.org/10.1214/14-AOS1273 the Annals of Statistics (http://www.imstat.org/aos/) by the Institute of Mathematical Statistics (http://www.imstat.org)