统计异质性下联邦学习的实用实验设计指南
机器学习
2023-07-31 v1 人工智能
摘要
联邦学习(FL)近年来一直是活跃的研究领域。已有大量 FL 研究致力于使其在数据异质性存在时更为成功。然而,尽管已有众多发表成果,该领域的进展状态仍不明朗。许多工作使用不一致的实验设置,且缺乏关于 FL 特定实验变量对结果的影响以及用于更具可比性与一致性的 FL 实验设置的实用见解的综合性研究。此外,若干基准与混杂变量的存在进一步加剧了不一致与模糊性问题。本工作中,我们首次对 FL 特定实验变量彼此之间及与性能结果的关系进行了综合研究,为设计有意义且激励充分的 FL 实验设置带来了若干见解与建议。我们进一步通过发布 FedZoo-Bench 助力社区,这是一个基于 PyTorch 的开源库,预实现了 22 种最先进方法,并提供广泛的标准化与可定制特性,详见 https://github.com/MMorafah/FedZoo-Bench。我们还对若干最先进(SOTA)方法进行了全面比较,以更好地理解该领域的现状与现存局限。
引用
@article{arxiv.2307.15245,
title = {A Practical Recipe for Federated Learning Under Statistical Heterogeneity Experimental Design},
author = {Mahdi Morafah and Weijia Wang and Bill Lin},
journal= {arXiv preprint arXiv:2307.15245},
year = {2023}
}