含缺失数据 PCA 中的相变：降低的是信噪比，而非样本量！
机器学习
2020-08-12 v1 机器学习
摘要
缺失数据如何影响我们学习信号结构的能力？已有研究表明，就主成分而言学习信号结构依赖于样本量与维数之比，且在学习开始之前需要达到一个临界观测数（Biehl 和 Mietzner，1993）。此处我们将该分析推广到包含缺失数据的情况。概率主成分分析常用于估计含缺失数据集中的信号结构。我们的解析结果表明，缺失数据的效应是有效降低信噪比，而非如通常所认为的那样减少样本量。该理论预测了学习曲线中的相变，而这一相变确实在仿真数据和真实数据集中均被发现。
引用
@article{arxiv.1905.00709,
title = {Phase transition in PCA with missing data: Reduced signal-to-noise ratio, not sample size!},
author = {Niels Bruun Ipsen and Lars Kai Hansen},
journal= {arXiv preprint arXiv:1905.00709},
year = {2020}
}
备注
Accepted to ICML 2019. This version is the submitted paper