FedHPO-B：一个用于联邦超参数优化的基准套件
机器学习
2022-06-22 v4
摘要
超参数优化（HPO）对于机器学习算法获得满意性能至关重要，其进展已受到相关基准的推动。然而，现有的基准工作都集中于传统集中式学习的 HPO，而忽视了联邦学习（FL）——一种从分散数据协同学习模型的有前景范式。本文首先从多个方面指出了 FL 算法 HPO 的一些独特性。由于这种独特性，现有 HPO 基准已无法满足在 FL 设定下比较 HPO 方法的需求。为促进 FL 设定下 HPO 的研究，我们提出并实现了基准套件 FedHPO-B，其包含全面的 FL 任务、支持高效函数评估，并便于持续扩展。我们还基于 FedHPO-B 进行了广泛实验，对若干 HPO 方法进行了基准测试。我们在 https://github.com/alibaba/FederatedScope/tree/master/benchmark/FedHPOB 开源了 FedHPO-B。
引用
@article{arxiv.2206.03966,
title = {FedHPO-B: A Benchmark Suite for Federated Hyperparameter Optimization},
author = {Zhen Wang and Weirui Kuang and Ce Zhang and Bolin Ding and Yaliang Li},
journal= {arXiv preprint arXiv:2206.03966},
year = {2022}
}