面向重叠样本有限的通信高效纵向联邦学习
机器学习
2023-03-31 v2
摘要
联邦学习是一种流行的协作学习方法，使客户端能够在不共享本地数据的情况下训练全局模型。纵向联邦学习（VFL）处理客户端数据具有不同特征空间但共享部分重叠样本的场景。现有 VFL 方法通信成本高，且无法有效应对现实世界中常见的重叠样本有限问题。我们提出一种实用的纵向联邦学习（VFL）框架，称为 \textbf{one-shot VFL}，可基于半监督学习同时解决通信瓶颈与重叠样本有限问题。我们还提出 \textbf{few-shot VFL}，通过服务器与客户端之间仅多一轮通信进一步提升精度。在我们提出的框架中，客户端只需与服务器通信一次或仅少数几次。我们在图像与表格数据集上评估了该 VFL 框架。在 CIFAR-10 上评估时，相较最先进的 VFL 方法，我们的方法精度提升超 46.5%，通信成本降低超 330。我们的代码将公开于 \url{https://nvidia.github.io/NVFlare/research/one-shot-vfl}。
引用
@article{arxiv.2303.16270,
title = {Communication-Efficient Vertical Federated Learning with Limited Overlapping Samples},
author = {Jingwei Sun and Ziyue Xu and Dong Yang and Vishwesh Nath and Wenqi Li and Can Zhao and Daguang Xu and Yiran Chen and Holger R. Roth},
journal= {arXiv preprint arXiv:2303.16270},
year = {2023}
}