纵向联邦学习:挑战、方法与实验
机器学习
2024-08-06 v2 分布式、并行与集群计算
摘要
近来,联邦学习(FL)因终端用户设备计算与感知能力的提升以及对用户隐私日益增加的关注,已成为一种有前景的分布式机器学习(ML)技术。作为 FL 中的一种特殊架构,纵向 FL(VFL)能够通过整合来自不同客户端的子模型来构建超 ML 模型。这些子模型由具有不同属性的纵向划分数据在本地训练。因此,VFL 的设计从根本上不同于传统 FL,带来了崭新且独特的研究问题。在本文中,我们旨在讨论 VFL 中的关键挑战及有效解决方案,并在真实数据集上进行实验以阐明这些问题。具体而言,我们首先提出一个关于 VFL 的通用框架,并强调 VFL 与传统 FL 之间的关键差异。随后,我们从四个方面讨论根植于 VFL 系统的研究挑战,即安全和隐私风险、昂贵的计算与通信成本、由模型切分可能引发的结构性损害,以及系统异构性。之后,我们提出应对上述挑战的解决方案,并开展大量实验以展示我们所提方案的有效性。
引用
@article{arxiv.2202.04309,
title = {Vertical Federated Learning: Challenges, Methodologies and Experiments},
author = {Kang Wei and Jun Li and Chuan Ma and Ming Ding and Sha Wei and Fan Wu and Guihai Chen and Thilina Ranbaduge},
journal= {arXiv preprint arXiv:2202.04309},
year = {2024}
}