流式 k-PCA：Oja 算法的高效保证，超越秩一更新

De Huang; Jonathan Niles-Weed; Rachel Ward

流式 k-PCA：Oja 算法的高效保证，超越秩一更新

数据结构与算法 2021-02-09 v1 机器学习概率论

作者: De Huang , Jonathan Niles-Weed , Rachel Ward

摘要

我们分析用于流式 $k$ -PCA 的 Oja 算法，并证明其性能几乎匹配最优离线算法。给定对一串独立同分布的 $d \times d$ 对称矩阵的访问，我们证明 Oja 算法可使用随 $d$ 多对数缩放的样本数，获得其期望的前 $k$ 个特征向量子空间的精确近似。此前，此类结果仅在更新具有秩一的情形下已知。我们的分析基于近期发展的矩阵浓度工具，其使我们能对算法执行过程中出现的随机矩阵的尾部证明强界。

关键词

流式 k-PCA Oja 算法矩阵浓度特征向量子空间对称矩阵

引用

@article{arxiv.2102.03646,
  title  = {Streaming k-PCA: Efficient guarantees for Oja's algorithm, beyond rank-one updates},
  author = {De Huang and Jonathan Niles-Weed and Rachel Ward},
  journal= {arXiv preprint arXiv:2102.03646},
  year   = {2021}
}

备注

28 pages

流式 k-PCA：Oja 算法的高效保证，超越秩一更新

摘要

关键词

引用

备注

相关论文