Scatterbrained:一种灵活可扩展的分布式机器学习模式
机器学习
2021-12-16 v1
摘要
联邦机器学习是一种在多个设备间训练模型而不交换数据的技术。由于数据保留在每个计算节点的本地,联邦学习非常适用于数据受到严格管控的领域(如医学)或存在带宽限制的域。这种方法的一个弱点是,大多数联邦学习工具依赖于中央服务器来执行工作负载分配并生成单一的共享模型。在此,我们提出了一种用于去中心化联邦学习模式的灵活框架,并提供了一个兼容 PyTorch 的开源参考实现。
引用
@article{arxiv.2112.07718,
title = {Scatterbrained: A flexible and expandable pattern for decentralized machine learning},
author = {Miller Wilt and Jordan K. Matelsky and Andrew S. Gearhart},
journal= {arXiv preprint arXiv:2112.07718},
year = {2021}
}
备注
Code and documentation is available at https://github.com/JHUAPL/scatterbrained