区块链辅助的去中心化联邦学习（BLADE-FL）：性能分析与资源分配
机器学习
2021-08-31 v2 分布式、并行与集群计算
摘要
联邦学习（FL）作为一种分布式机器学习范式，通过各客户端的本地数据处理来保护个人隐私。然而，标准 FL 依赖中心化服务器进行模型聚合，易受服务器故障、不可信服务器及外部攻击的影响。为解决此问题，我们提出一种通过将区块链集成到 FL 中的去中心化 FL 框架，即区块链辅助的去中心化联邦学习（BLADE-FL）。在所提 BLADE-FL 的一轮中，每个客户端将训练好的模型广播给其他客户端，将自身模型与接收到的模型聚合，然后在其下一轮本地训练前竞争生成区块。我们评估了 BLADE-FL 的学习性能，并给出了全局损失函数的上界。随后我们验证该上界关于总体聚合轮数 K 是凸的，并优化计算资源分配以最小化该上界。我们还注意到一个由懒惰客户端引发的关键训练不足问题，这些客户端剽窃他人训练模型并添加人工噪声以掩饰其作弊行为。针对此问题，我们探究了懒惰客户端对 BLADE-FL 学习性能的影响，并刻画了最优 K、学习参数与懒惰客户端比例之间的关系。基于 MNIST 和 Fashion-MNIST 数据集，我们展示了实验结果与解析结果一致。具体而言，所开发上界与实验结果之间的差距低于 5%，且基于上界优化的 K 能有效最小化损失函数。
引用
@article{arxiv.2101.06905,
title = {Blockchain Assisted Decentralized Federated Learning (BLADE-FL): Performance Analysis and Resource Allocation},
author = {Jun Li and Yumeng Shao and Kang Wei and Ming Ding and Chuan Ma and Long Shi and Zhu Han and H. Vincent Poor},
journal= {arXiv preprint arXiv:2101.06905},
year = {2021}
}