Oja 在线主成分分析的扩散近似
数值分析
2023-01-05 v1 数值分析
动力系统
概率论
摘要
Oja 的主成分分析（PCA）算法是实践中用于降维的方法之一。本文关注该离散算法的收敛性质。为此，我们将该算法视为参数空间与半群上的随机过程。我们用随机微分方程（SDE）对其进行近似，并证明 SDE 的大时间收敛以保证其性能。这一过程分三步完成。首先，离散算法可视为一个半群：。其次，我们在 Stiefel 流形上构造随机微分方程（SDE），即扩散近似，以近似该半群。通过证明弱收敛，我们验证了该算法“接近于”这些 SDE。最后，我们利用 SDE 的可逆性证明长时间收敛。
引用
@article{arxiv.2301.01339,
title = {Diffusion approximations of Oja's online principal component analysis},
author = {Jian-Guo Liu and Zibu Liu},
journal= {arXiv preprint arXiv:2301.01339},
year = {2023}
}