FedSIR:基于谱方法的联邦学习中的客户识别与重新标签
机器学习
2026-04-23 v1 人工智能
计算机视觉与模式识别
分布式、并行与集群计算
信号处理
摘要
联邦学习(FL)通过不共享原始数据来实现协作模型训练;然而,存在带有噪声标签的分布式客户端会严重降低学习性能。在本文中,我们提出FedSIR,一个用于处理噪声标签的联邦学习的多阶段框架。与现有方法主要依赖设计噪声容忍损失函数或在训练期间利用损失动力学不同,我们的方法利用客户特征表示的谱结构来识别和缓解标签噪声。我们的框架包含三个关键组件。首先,我们通过分析类别特征子空间的谱一致性来识别干净和噪声客户,同时最小化通信开销。其次,干净的客户提供谱参考,使噪声客户能够使用主导类别方向和残差子空间来重新标记可能被破坏的样本。最后,我们采用一种噪声感知的训练策略,将logit-adjusted loss、知识蒸馏和距离感知聚合整合进以进一步稳定联邦优化。大量实验在标准FL基准测试上表明,FedSIR在噪声标签的联邦学习中 consistently outperform(持续优于)state-of-the-art的方法。代码可在 https://github.com/sinagh72/FedSIR 查看。
引用
@article{arxiv.2604.20825,
title = {FedSIR: Spectral Client Identification and Relabeling for Federated Learning with Noisy Labels},
author = {Sina Gholami and Abdulmoneam Ali and Tania Haghighi and Ahmed Arafa and Minhaj Nur Alam},
journal= {arXiv preprint arXiv:2604.20825},
year = {2026}
}
备注
Accepted at the 5th Workshop on Federated Learning for Computer Vision (FedVision), CVPR 2026. Sina Gholami and Abdulmoneam Ali contributed equally