Motley：联邦学习中的异构性与个性化基准测试
机器学习
2022-09-27 v6 分布式、并行与集群计算
摘要
个性化联邦学习考虑为异构网络中的每个客户端学习独特的模型。据称，由此产生的客户端特定模型可以提高联邦网络中的准确性、公平性和鲁棒性等指标。然而，尽管该领域有大量工作，但仍不清楚：(1) 哪些个性化技术在各种设置中最有效，以及 (2) 个性化对于现实的联邦应用到底有多重要。为了更好地回答这些问题，我们提出了 Motley，一个用于个性化联邦学习的基准测试。Motley 包含一套来自不同问题领域的跨设备和跨孤岛联邦数据集，以及用于更好理解个性化可能影响的全面评估指标。我们通过比较多种有代表性的个性化联邦学习方法，在该基准上建立了基线。这些初步结果突显了现有方法的优势和劣势，并为社区提出了几个开放性问题。Motley 旨在提供一种可复现的手段，以推动个性化和异构感知联邦学习，以及迁移学习、元学习和多任务学习等相关领域的发展。
引用
@article{arxiv.2206.09262,
title = {Motley: Benchmarking Heterogeneity and Personalization in Federated Learning},
author = {Shanshan Wu and Tian Li and Zachary Charles and Yu Xiao and Ziyu Liu and Zheng Xu and Virginia Smith},
journal= {arXiv preprint arXiv:2206.09262},
year = {2022}
}
备注
40 pages, 10 figures, 7 tables. EMNIST and Landmarks fine-tuning results are corrected in (and after) v5. Code: https://github.com/google-research/federated/tree/master/personalization_benchmark