H-FL：一种分层、通信高效且隐私保护的联邦学习架构
机器学习
2021-06-02 v1 密码学与安全
分布式、并行与集群计算
摘要
联邦学习(federated learning, FL)的长期目标要求在保持较高模型准确率的同时，具备严格的隐私保障与较低的通信开销。然而，同时实现所有这些目标极具挑战性。本文提出一种称为分层联邦学习(hierarchical federated learning, H-FL)的新框架以应对该挑战。考虑到训练数据的统计异质性导致的模型性能退化，我们设计了一种运行时分布重构策略，该策略对客户进行适当重分配，并利用中介来重新安排客户的本地训练。此外，我们设计了一种集成于 H-FL 的压缩-校正机制，以在牺牲模型性能的前提下降低通信开销。为进一步提供隐私保障，我们在进行本地训练时引入差分隐私，仅向完整模型的部分注入适量噪声。实验结果表明，我们的 H-FL 框架在真实世界图像识别任务的不同数据集上取得了最先进的性能。
引用
@article{arxiv.2106.00275,
title = {H-FL: A Hierarchical Communication-Efficient and Privacy-Protected Architecture for Federated Learning},
author = {He Yang},
journal= {arXiv preprint arXiv:2106.00275},
year = {2021}
}
备注
Accepted by IJCAI 2021, 7pages, 10 figures