不可靠连接下的安全纵向联邦学习
密码学与安全
2024-02-20 v3 机器学习
摘要
大多数隐私保护联邦学习（FL）的工作集中于水平划分的数据集，其中客户端持有相同特征并独立训练完整的客户端级模型。然而，在纵向 FL（VFL）场景中，单个数据点常分散于不同机构（即客户端）中。解决此类 FL 需要在参与者之间交换中间输出与梯度，这带来了潜在的隐私泄露风险与缓慢的收敛速度。此外，在许多现实场景中，VFL 训练还面临客户端掉队与退出的严峻问题，这一严重挑战会显著阻碍训练过程，却在现有研究中被 largely 忽视。本工作中，我们提出 vFedSec，首个可容忍退出的 VFL 协议，其可支持最通用的纵向框架。它通过采用创新的安全层（Secure Layer）与嵌入填充技术，实现安全且高效的模型训练。我们提供理论证明，表明我们的设计在保持训练性能的同时获得了增强的安全性。大量实验的实证结果也表明，vFedSec 对客户端退出具有鲁棒性，并以可忽略的计算与通信开销提供安全训练。与广泛采用的同态加密（HE）方法相比，我们的方法实现了显著的 >690 倍加速，并将通信成本显著降低 >9.6 倍。
引用
@article{arxiv.2305.16794,
title = {Secure Vertical Federated Learning Under Unreliable Connectivity},
author = {Xinchi Qiu and Heng Pan and Wanru Zhao and Yan Gao and Pedro P. B. Gusmao and William F. Shen and Chenyang Ma and Nicholas D. Lane},
journal= {arXiv preprint arXiv:2305.16794},
year = {2024}
}
备注
Generalised extension from our previous work: arXiv:2305.11236