广义特征值问题的单轮分布式算法
机器学习
2021-11-25 v2
摘要
如今，出于内存存储或数据隐私考虑，越来越多数据集以分布式方式存储。广义特征值问题（GEP）在大量高维统计模型中起着至关重要的作用。然而，现有的分布式特征值分解方法因经验协方差矩阵的发散而无法应用于 GEP。在此我们提出一种面向 GEP 的具有单轮通信的通用分布式 GEP 框架。若对称数据协方差具有重特征值（例如典型分量分析中），我们进一步改进该方法以获得更好收敛性。我们进行了近似误差的理论分析，并探讨了其与数据协方差发散、经验数据协方差特征值以及本地服务器数量的关系。数值实验也显示了所提算法的有效性。
引用
@article{arxiv.2010.11625,
title = {One-shot Distributed Algorithm for Generalized Eigenvalue Problem},
author = {Kexin Lv and Fan He and Xiaolin Huang and Jie Yang and Liming Chen},
journal= {arXiv preprint arXiv:2010.11625},
year = {2021}
}
备注
The derivation of the bound in the proof of Theorem 1 contains some errors. And it cannot be resolved at this time.