应对联邦学习中的数据异构性：一种半监督联邦目标检测
计算机视觉与模式识别
2024-01-04 v3 分布式、并行与集群计算
摘要
联邦学习(FL)已成为一种在分布式数据源上训练模型同时保护数据隐私的有力框架。然而，它面临着高质量标签有限以及客户端数据非独立同分布(non-IID)的挑战，尤其在自动驾驶等应用中。为应对这些障碍，我们探索了半监督联邦目标检测(SSFOD)这一未知领域。我们提出了一种开创性的 SSFOD 框架，适用于仅服务器拥有带标签数据而客户端仅有未标签数据的场景。值得注意的是，我们的方法是首个面向标签占比为 0% 的非 IID 数据客户端的 SSFOD 实现，这与以往在每个客户端保留部分标签子集的研究形成鲜明对比。我们提出 FedSTO，一种包含选择性训练与正交增强全参数训练两阶段策略的方法，以有效解决服务器与客户端间的数据偏移（如天气条件）。我们的贡献包括选择性精调检测器骨干网络以防止过拟合、正交正则化以提升表征差异性，以及局部 EMA 驱动的伪标签分配以产生高质量伪标签。在知名自动驾驶数据集（BDD100K、Cityscapes 和 SODA10M）上的大量验证证明了我们方法的有效性，展示了最先进(SOTA)的结果。值得注意的是，FedSTO 仅使用 20-30% 的标签，性能便几乎与全监督集中式训练方法相当。
引用
@article{arxiv.2310.17097,
title = {Navigating Data Heterogeneity in Federated Learning A Semi-Supervised Federated Object Detection},
author = {Taehyeon Kim and Eric Lin and Junu Lee and Christian Lau and Vaikkunth Mugunthan},
journal= {arXiv preprint arXiv:2310.17097},
year = {2024}
}
备注
NeurIPS 2023