揭开群体学习面纱:一种基于区块链的去中心化联邦学习新范式
机器学习
2022-01-19 v2 密码学与安全
摘要
联邦学习(FL)是一种新兴且有前景的隐私保护机器学习范式,已引起研究人员和开发者越来越多的关注。FL 将用户的私有数据保留在设备上,并交换本地模型的梯度,以在中心管理者上协作训练共享的深度学习(DL)模型。然而,FL 的安全性和容错性日益受到讨论,其中心管理者机制或星型架构易遭受恶意攻击或软件故障。为解决这些问题,群体学习(SL)引入许可链来安全接入成员并动态选举领导者,从而以极度去中心化的方式执行 DL。与对 SL 的巨大关注相比,关于 SL 或基于区块链的去中心化 FL 的实证研究很少,后者能提供在真实场景中部署 SL 的最佳实践与注意事项的全面知识。因此,据我们所知,我们开展了迄今首个对 SL 的全面研究,以填补 SL 部署与开发者之间的知识鸿沟。本文中,我们在 3 个公开数据集上围绕 5 个研究问题开展多种实验,呈现有趣发现,定量分析了这些发现背后的原因,并为开发者和研究者提供实用建议。这些发现证明,SL 应适用于大多数应用场景,无论数据集在无关特征上是否均衡、受污染或有偏。
引用
@article{arxiv.2201.05286,
title = {Demystifying Swarm Learning: A New Paradigm of Blockchain-based Decentralized Federated Learning},
author = {Jialiang Han and Yun Ma and Yudong Han},
journal= {arXiv preprint arXiv:2201.05286},
year = {2022}
}