同步与异步 FLchain 的分析与评估
机器学习
2022-09-07 v3 分布式、并行与集群计算
网络与互联网体系结构
摘要
受参与大规模联邦学习（FL）优化的设备异构性驱动，我们关注一种由区块链技术赋能的异步无服务器 FL 方案。与大多采用的假设同步操作的 FL 方法不同，我们提倡一种异步方法，即模型聚合在客户端提交其本地更新时进行。异步设定很好地契合了实际大规模异构客户端的联邦优化理念，因此有望在通信开销与空闲周期方面带来更高效率。为评估区块链赋能的 FL 的学习完成时延，我们提供了基于批服务排队论的分析模型。此外，我们给出仿真结果以评估同步与异步机制的性能。区块链赋能的 FL 优化中涉及的重要方面，如网络规模、链路容量或用户需求，被汇总并分析。正如我们的结果显示，同步设定比异步情形具有更高的预测精度。然而，异步联邦优化在许多情况下提供低得多的时延，从而在处理大型数据集、严苛时序约束（例如近实时应用）或高度变化训练数据时成为 FL 的一个有吸引力的解决方案。
引用
@article{arxiv.2112.07938,
title = {Analysis and Evaluation of Synchronous and Asynchronous FLchain},
author = {Francesc Wilhelmi and Lorenza Giupponi and Paolo Dini},
journal= {arXiv preprint arXiv:2112.07938},
year = {2022}
}