面向异步去中心化联邦学习中持久客户端脱落问题的自适应策略

我们考虑的是在异步去中心化联邦学习（DFL）中处理持久客户端脱落的问题。由于非对称性和去中心化性模糊了 federation 同伴之间模型更新的信息，使得从客户端脱落中恢复困难。访问学习历元的数量、数据分布以及所有用于精确重构缺失邻居损失函数所需信息是有限的。我们指出，显而易见的缓解措施并不充分解决该问题，并提出基于客户端重构的自适应策略。我们表明，这些策略能够有效恢复由脱落导致的一些性能损失。本文聚焦于具有本地正则化的异步 DFL，与现有文献的工作有显著差异。我们在表格和图像数据集上评估了所提方法，涉及三种 DFL 算法和三种数据异构情景（iid、non-iid、面向类别的 non-iid）。我们的实验表明，所提出的自适应策略即使未能精确重建缺失客户端的数据，也能在保持联邦学习鲁棒性方面发挥有效作用。我们也讨论了局限性并指出了针对客户端脱落问题的未来研究方向。