FedGBF:一种基于梯度提升与装袋的高效纵向联邦学习框架
机器学习
2022-04-05 v1 人工智能
密码学与安全
分布式、并行与集群计算
摘要
联邦学习有助于解决数据隐私与安全问题,近年来受到越来越多的关注。然而,现有的联邦提升模型利用弱基学习器顺序构建决策树模型,导致提升步骤冗余且交互通信成本高。相比之下,联邦装袋模型通过并行构建多棵决策树节省时间,但存在性能损失。为了在更低时间成本下获得优异性能,我们提出一种纵向联邦设定下的新模型,称为联邦梯度提升森林(FedGBF)。FedGBF通过并行构建决策树作为提升的基学习器,同时集成了提升与装袋的优势。在FedGBF之后,超参数调优问题随之产生。为此我们提出动态FedGBF,其动态改变每个森林的参数从而降低复杂度。最后,基于基准数据集的实验证明了我们方法的优越性。
引用
@article{arxiv.2204.00976,
title = {FedGBF: An efficient vertical federated learning framework via gradient boosting and bagging},
author = {Yujin Han and Pan Du and Kai Yang},
journal= {arXiv preprint arXiv:2204.00976},
year = {2022}
}