基于锚框模型聚合的无标签客户端发散学习用于联邦半监督学习
机器学习
2024-10-28 v2 人工智能
计算机视觉与模式识别
摘要
联邦半监督学习（FedSemi）指的是存在完全标记数据、部分标记数据甚至完全无标记客户端的情形，同时保持数据隐私。然而，由于定义的异构类别分布和错误伪标签的存在，客户端漂移带来了挑战。现有的 FedSemi 方法通常无法因其固有的不可靠性而聚合来自无标记客户端的模型，从而忽略了其异构数据分布所独有的独特信息，导致结果次优。本文通过 SemiAnAgg——一种 novel Semi-supervised Anchor-Based federated Aggregation 方法，实现了对无标记客户端的聚合。SemiAnAgg 通过锚框模型学习无标记客户端的贡献，有效地利用了其信息价值。我们的核心思想是，通过将本地客户端数据输入相同的全局模型和相同的一致初始化锚框模型（即随机模型），我们可以相应地衡量每个无标记客户端的重要性。大量实验表明，SemiAnAgg 在四个广泛使用的 FedSemi 基准测试上实现了新的最先进结果，相较于先前的最先进技术，准确率在 CIFAR-100 上提高了 9%，在医疗数据集 ISIC-18 的召回率提高了 7.6%。代码已公开：https://github.com/xmed-lab/SemiAnAgg。
引用
@article{arxiv.2407.10327,
title = {Learning Unlabeled Clients Divergence for Federated Semi-Supervised Learning via Anchor Model Aggregation},
author = {Marawan Elbatel and Hualiang Wang and Jixiang Chen and Hao Wang and Xiaomeng Li},
journal= {arXiv preprint arXiv:2407.10327},
year = {2024}
}
备注
Accepted by TMLR (10/2024)