对个人化联邦学习的数据异构性评估方法进行基准测试
机器学习
2024-10-29 v2 人工智能
摘要
越来越多的研究关注于衡量客户本地数据集的统计异构性，这些测量用于估算适合进行个人化联邦学习（PFL）模型的协同训练。目前，这些研究工作正在各自为政，缺乏统一的基准框架以在常见设置下对各种方法进行公平且便捷的比较。本文旨在弥合这一重要缺口。提出的基准框架目前包括六种具有代表性的方法。在五个标准非独立同分布（non-IID）联邦学习设置下，开展了大量实验，以提供对哪些方法在何种情境下优势的重要见解。该框架为在联邦学习系统中选择合适数据异构性评估方法提供了实用指导，有助于确保相关研究活动在以下方面走在正确轨道上：(1) 设计 PFL 方案；(2) 为特定联邦学习应用场景选择合适的数据异构性评估方法；(3) 解决协作模型训练中的公平性问题。代码已公开于 https://github.com/Xiaoni-61/DH-Benchmark。
引用
@article{arxiv.2410.07286,
title = {Benchmarking Data Heterogeneity Evaluation Approaches for Personalized Federated Learning},
author = {Zhilong Li and Xiaohu Wu and Xiaoli Tang and Tiantian He and Yew-Soon Ong and Mengmeng Chen and Qiqi Liu and Qicheng Lao and Han Yu},
journal= {arXiv preprint arXiv:2410.07286},
year = {2024}
}
备注
Accepted to FL@FM-NeurIPS'24