中文

FedPCA:基于性能-容量分析的噪声鲁棒公平联邦学习

机器学习 2025-03-14 v1

摘要

在联邦学习中,能够有效处理common和rare数据(即实现性能公平性)至关重要。虽然现有的公平联邦学习方法显示出有效性,但它们对错误标记的数据仍然脆弱。确保公平联邦学习的鲁棒性因此至关重要。然而,公平性和鲁棒性本质上存在竞争,这导致鲁棒策略会阻碍公平性。本文认为,这种竞争归因于稀有数据客户端和错误标记数据客户端所呈现的损失模式的相似性,阻止现有的基于损失的公平和鲁棒联邦学习方法有效区分和处理这两种不同类型的客户端。为此,我们提出了性能-容量分析,该方法同时考虑每个客户端的模型性能及其处理数据集的容量(由损失和我们新引入的特征离散度评分测量)。这允许通过显著偏离容量的性能来识别错误标记的客户端,而保留稀有数据客户端。基于此,我们引入FedPCA,这是一种能够鲁棒地实现公平性的联邦学习方法。FedPCA首先通过损失-离散度对的高斯混合模型识别错误标记的客户端,然后在全局聚合和本地训练中通过调整客户端权重和选择性地使用可靠数据应用公平性和鲁棒性策略。在三个数据集上的大量实验表明FedPCA在处理这一复杂挑战方面具有有效性。代码将在接受后公开。

关键词

引用

@article{arxiv.2503.10567,
  title  = {FedPCA: Noise-Robust Fair Federated Learning via Performance-Capacity Analysis},
  author = {Nannan Wu and Zengqiang Yan and Nong Sang and Li Yu and Chang Wen Chen},
  journal= {arXiv preprint arXiv:2503.10567},
  year   = {2025}
}

备注

Preprint