AJIVE: 多数据矩阵共享子空间估计的力量与局限
机器学习
2025-02-18 v2 机器学习
统计理论
统计理论
摘要
集成数据分析通常需要在多个数据集之间分离联合和个体变化,这一挑战通常由联合和个体变异解释(JIVE)模型来解决。虽然已developed了众多方法来估计JIVE下的共享子空间,但其性能的理论理解仍有限,特别是在多个矩阵和不同程度的子空间错位的背景下。本文通过提供对多矩阵环境下共享子空间估计的系统性分析,弥合了这一差距。我们聚焦于基于角度的联合和个体变异解释(AJIVE)方法,这是一种两阶段谱方法,并在其中建立了新的性能保证,揭示了其优势与局限。具体而言,我们表明在高信噪比(SNR) regime中,AJIVE的估计误差随矩阵数量的增加而减小,显示现多矩阵集成的优势。相反,在低SNR设置下,AJIVE表现出不可消减的误差,突显其基本局限。为补充这些结果,我们导出鲁棒下界,表明AJIVE在高SNR regime中实现了最优速率。此外,我们分析了一个以oracle为导师的谱估计器,以演示低SNR情景中不可消减误差是根本性障碍。广泛的numerical实验证实了我们的理论发现,提供了关于SNR、矩阵数量和子空间错位之间相互作用的见解。
引用
@article{arxiv.2501.09336,
title = {Estimating shared subspace with AJIVE: the power and limitation of multiple data matrices},
author = {Yuepeng Yang and Cong Ma},
journal= {arXiv preprint arXiv:2501.09336},
year = {2025}
}