加速噪声幂方法的改进分析及其在分布式 PCA 中的应用
机器学习
2026-02-04 v1 分布式、并行与集群计算
机器学习
数值分析
数值分析
摘要
我们分析了加速噪声幂方法,这是一种在仅能获取不精确矩阵向量乘积的情境下进行主成分分析的算法,这种情境在分布式 PCA 中可能出现。虽然已有研究表明加速可以比标准噪声幂方法获得更快的收敛速度,但这些保证要求对扰动幅度设置过于严格的上限,限制了其实际应用。我们提供了该算法的改进分析,该分析在扰动条件更宽松的情况下仍保持加速收敛速度。我们显示,我们的新分析是最坏情况最优的,即收敛速度无法进一步提高,我们推导的噪声条件若要进一步放宽,必然会牺牲收敛保证。我们通过推导分布式 PCA 的加速算法来展示结果的实际相关性,该算法的通信成本类似于非加速方法。据我们了解,这是首个具有可证明加速收敛速度的分布式 PCA 算法。
引用
@article{arxiv.2602.03682,
title = {Improved Analysis of the Accelerated Noisy Power Method with Applications to Decentralized PCA},
author = {Pierre Aguié and Mathieu Even and Laurent Massoulié},
journal= {arXiv preprint arXiv:2602.03682},
year = {2026}
}