CFL:大规模点对点网络中的聚类联邦学习
密码学与安全
2022-07-07 v2
摘要
联邦学习(FL)在利用客户端本地设备上的私有数据方面引发了广泛关注。然而,FL 的参数服务器设定不仅带宽需求高,还存在数据隐私问题以及单点故障。本文提出一种高效且保护隐私的协议,称为 CFL,这是首个面向大规模点对点(P2P)网络中 FL 的细粒度全局模型训练。与以往 P2P 网络中的 FL 不同,CFL 以分层方式聚合本地模型更新参数,在面对大量客户端时提升了通信效率。同时,CFL 通过引入认证加密方案以安全方式执行聚合,其密钥通过一种随机成对密钥方案建立,并由所提出的基于投票的密钥撤销机制增强。严格分析表明,在两种普遍存在的威胁模型下,CFL 保障了本地模型更新参数的隐私性、数据完整性与真实性。更重要的是,所提出的密钥撤销机制可有效抵御劫持攻击,从而确保通信密钥的机密性。在 Trec06p 和 Trec07 数据集上的巧妙实验表明,CFL 训练的全局模型具有良好的分类精度、模型泛化能力和快速收敛速度,并实现了系统的掉线鲁棒性。与首个 P2P 网络 FL 全局模型训练协议 PPT 相比,CFL 将通信效率提升了 43.25%,且在计算效率上也优于 PPT。
引用
@article{arxiv.2204.03843,
title = {CFL: Cluster Federated Learning in Large-scale Peer-to-Peer Networks},
author = {Qian Chen and Zilong Wang and Yilin Zhou and Jiawei Chen and Dan Xiao and Xiaodong Lin},
journal= {arXiv preprint arXiv:2204.03843},
year = {2022}
}