通过友元模型替代应对联邦学习中的客户端掉线

联邦学习（Federated Learning, FL）是一种以数据隐私与通信效率优势著称的新型分布式机器学习框架。由于资源受限，许多情况下全客户端参与不可行，因而已有研究探讨主动选择/采样客户端子集的部分参与 FL 算法，以期达到接近全参与的学习效果。本文研究一种理解甚少、由外部事件（即客户端掉线）而非 FL 算法决策导致的被动部分参与场景。我们将带客户端掉线的 FL 视为一类更广 FL 问题的特例，其中客户端可提交替代（可能不准确的）本地模型更新。基于收敛性分析，我们提出新算法 FL-FDMS，其在线发现客户端的友元（即数据分布相似的客户端），并用友元的本地更新替代掉线客户端，从而降低替代误差并改善收敛性能。FL-FDMS 还引入了复杂度削减机制，使其在理论上严谨且实践中可用。在 MNIST 与 CIFAR-10 上的实验证实了 FL-FDMS 在处理 FL 客户端掉线时的优越性能。