BlockDFL:一种基于区块链的全去中心化点对点联邦学习框架
分布式、并行与集群计算
2024-01-25 v3
摘要
联邦学习 (FL) 能够在无需共享训练数据的情况下协同训练机器学习模型。传统 FL 严重依赖可信的中心化服务器。尽管去中心化 FL 消除了中心依赖,但由于对参与者行为缺乏限制,它可能加剧 FL 面临的其它固有问题,如投毒攻击和数据表示泄露,以及高昂的通信成本,尤其在全去中心化场景即点对点 (P2P) 设置中。本文提出一种基于区块链的全去中心化 P2P 联邦学习框架,称为 BlockDFL。它以区块链为基础,利用所提出的基于 PBFT 的投票机制和两层评分机制,在互不信任的对等参与者之间协调 FL,同时有效防御投毒攻击。引入梯度压缩以降低通信成本并防止从传输的模型更新中重建数据。在两个真实世界数据集上的大量实验表明,BlockDFL 相比中心化 FL 具有竞争性精度,并能防御投毒攻击,同时实现效率与可扩展性。特别是当恶意参与者比例高达 40% 时,BlockDFL 仍能保持 FL 的精度,优于现有的基于区块链的全去中心化 P2P FL 框架。
引用
@article{arxiv.2205.10568,
title = {BlockDFL: A Blockchain-based Fully Decentralized Peer-to-Peer Federated Learning Framework},
author = {Zhen Qin and Xueqiang Yan and Mengchu Zhou and Shuiguang Deng},
journal= {arXiv preprint arXiv:2205.10568},
year = {2024}
}