FedCova：抗噪标签的鲁棒性联合协方差学习
机器学习
2026-03-05 v1 信息论
信号处理
math.IT
摘要
分布数据集中的噪声标签会导致严重的局部过拟合，从而损害联合学习中的全局模型。大多数现有解决方案依赖于选择干净的设备或与公共干净数据集对齐，而不是赋予模型本身鲁棒性。在本文中，我们提出了 FedCova，一个无依赖性的联合协方差学习框架，通过增强模型内在鲁棒性来消除此类外部依赖，同时从特征协方差的新角度来实现。具体而言，FedCova 将数据编码到一个具备判别性且能耐受标签噪声的特征空间中。基于互信息最大化，我们设计了一个新的联合有损特征编码目标，该目标仅依赖于类特征协方差，并包含容错项。利用由协方差特征化的特征子空间，我们构建了一个基于子空间的联合分类器。FedCova 通过协方差统一了三个关键过程：(1) 训练网络进行特征编码，(2) 直接从学习到的特征中构建分类器，(3) 基于特征子空间纠正噪声标签。我们在对称和非对称噪声设置下实现了 FedCova，并在异构数据分布下进行实验。在 CIFAR-10/100 和真实世界噪声数据集 Clothing1M 上实验结果表明，FedCova 在鲁棒性方面优于最先进的方法。
引用
@article{arxiv.2603.04062,
title = {FedCova: Robust Federated Covariance Learning Against Noisy Labels},
author = {Xiangyu Zhong and Xiaojun Yuan and Ying-Jun Angela Zhang},
journal= {arXiv preprint arXiv:2603.04062},
year = {2026}
}