FedABC：面向个性化联邦学习中的公平竞争
机器学习
2023-02-16 v1 密码学与安全
摘要
联邦学习旨在不访问客户端本地私有数据的情况下协作训练模型。不同客户端的数据可能为非独立同分布（Non-IID），从而导致性能不佳。近来，个性化联邦学习（PFL）通过在本地优化中施加正则化或改进服务器端模型聚合方案，在处理 Non-IID 数据方面取得了巨大成功。然而，大多数 PFL 方法未考虑由数据分布不平衡以及各客户端某些类别正样本缺失所引起的不公平竞争问题。为解决此问题，我们提出一种新颖且通用的 PFL 框架，称为基于二分类的联邦平均（Federated Averaging via Binary Classification），简称 FedABC。具体而言，我们在每个客户端采用“一对多（one-vs-all）”训练策略，通过为每个类别构建个性化二分类问题来缓解类间不公平竞争。这可能加剧类不平衡挑战，因此设计了一种融合欠采样与难样本挖掘策略的新型个性化二分类损失。我们在两个流行数据集的不同设置下进行了大量实验，结果表明我们的 FedABC 可显著优于现有同类方法。
引用
@article{arxiv.2302.07450,
title = {FedABC: Targeting Fair Competition in Personalized Federated Learning},
author = {Dui Wang and Li Shen and Yong Luo and Han Hu and Kehua Su and Yonggang Wen and Dacheng Tao},
journal= {arXiv preprint arXiv:2302.07450},
year = {2023}
}
备注
9 pages,5 figures