中文

纵向联邦主成分分析及其在特征分布式数据上的核扩展

机器学习 2022-03-04 v1 分布式、并行与集群计算

摘要

尽管联邦学习(FL)在各领域的巨大研究兴趣和快速应用,现有研究大多聚焦于水平划分本地数据集设置下的监督联邦学习。本文将研究垂直划分数据集设置下的无监督 FL。相应地,我们提出面向垂直划分数据集的联邦主成分分析(VFedPCA)方法,该方法跨所有客户端的联合数据集降维并提取主成分特征信息用于下游数据分析。我们进一步利用非线性降维并提出垂直联邦高级核主成分分析(VFedAKPCA)方法,其能有效协作建模许多真实数据集中存在的非线性特性。此外,我们研究了两种通信拓扑。第一种是服务器-客户端拓扑,其中半可信服务器协调联邦训练;第二种是完全去中心化拓扑,其通过允许客户端自身与邻居通信进一步消除对服务器的要求。在五类真实世界数据集上进行的广泛实验证实了垂直划分 FL 设置下 VFedPCA 和 VFedAKPCA 的有效性。代码见:https://github.com/juyongjiang/VFedPCA-VFedAKPCA

关键词

引用

@article{arxiv.2203.01752,
  title  = {Vertical Federated Principal Component Analysis and Its Kernel Extension on Feature-wise Distributed Data},
  author = {Yiu-ming Cheung and Juyong Jiang and Feng Yu and Jian Lou},
  journal= {arXiv preprint arXiv:2203.01752},
  year   = {2022}
}