联邦异任务学习基准
机器学习
2022-06-22 v3
摘要
为研究现实场景下联邦学习中的异质性，我们将经典联邦学习推广为联邦异任务学习，其强调联邦学习参与者之间在数据分布与学习任务两方面的不一致性。我们还提出 B-FHTL，一个由仿真数据集、FL 协议和统一评估机制组成的联邦异任务学习基准。B-FHTL 数据集包含三个设计良好的、异质性递增的联邦学习任务，每个任务模拟具有不同非独立同分布数据和学习任务的客户端。为确保不同 FL 算法间的公平比较，B-FHTL 通过提供高层 API 来避免隐私泄露，内建了一整套 FL 协议，并预设了跨越不同学习任务（如回归、分类、文本生成等）的最常见评估指标。此外，我们在 B-FHTL 内比较了联邦多任务学习、联邦个性化与联邦元学习领域的 FL 算法，并凸显异质性的影响及联邦异任务学习的困难。我们的基准，包括联邦数据集、协议、评估机制与初步实验，已在 https://github.com/alibaba/FederatedScope/tree/master/benchmark/B-FHTL 开源。
引用
@article{arxiv.2206.03436,
title = {A Benchmark for Federated Hetero-Task Learning},
author = {Liuyi Yao and Dawei Gao and Zhen Wang and Yuexiang Xie and Weirui Kuang and Daoyuan Chen and Haohui Wang and Chenhe Dong and Bolin Ding and Yaliang Li},
journal= {arXiv preprint arXiv:2206.03436},
year = {2022}
}