FedV:基于垂直划分数据的隐私保护联邦学习
机器学习
2021-06-18 v2 人工智能
密码学与安全
分布式、并行与集群计算
摘要
联邦学习(FL)已被提出以允许多方之间协作训练机器学习(ML)模型,其中每方可以保持其数据私有。在该范式中,仅共享模型更新,例如模型权重或梯度。许多现有方法聚焦于横向 FL,其中每方在训练数据集中拥有完整特征集和标签。然而,许多真实场景遵循垂直划分 FL 设置,其中仅当各方数据集组合时才形成完整特征集,且标签仅对单方可用。隐私保护垂直 FL 具有挑战性,因为完整的标签和特征集不为单一实体所拥有。现有的垂直 FL 方法需要各方之间多次点对点通信,导致训练时间长,并且仅限于(近似)线性模型和仅两方。为弥补这一差距,我们提出 FedV,一种用于垂直设置下若干广泛使用的 ML 模型(如线性模型、逻辑回归和支持向量机)的安全梯度计算框架。FedV 通过使用函数加密方案消除了各方之间点对点通信的需要;这使得 FedV 能够实现更快的训练时间。它也适用于更大且变化的参与方集合。我们从经验上展示了其对多种类型 ML 模型的适用性,并显示出相对于最先进方法减少了 10%-70% 的训练时间和 80% 到 90% 的数据传输量。
引用
@article{arxiv.2103.03918,
title = {FedV: Privacy-Preserving Federated Learning over Vertically Partitioned Data},
author = {Runhua Xu and Nathalie Baracaldo and Yi Zhou and Ali Anwar and James Joshi and Heiko Ludwig},
journal= {arXiv preprint arXiv:2103.03918},
year = {2021}
}