当联邦学习遇到噪声标签时重新审视早期学习正则化
机器学习
2024-02-09 v1 分布式、并行与集群计算
摘要
在不断发展的联邦学习（FL）领域，由于跨客户端数据收集的去中心化和多样性，解决标签噪声问题带来了独特的挑战。在联邦学习中，传统的集中式学习方法因隐私问题和客户端数据的异质性而受到限制。本文重新审视了早期学习正则化，引入了一种创新策略——联邦标签混合正则化（FLR）。FLR 通过生成新的伪标签，融合本地和全局模型的预测，巧妙地适应了联邦学习的复杂性。该方法不仅提高了全局模型在独立同分布和非独立同分布设置下的准确性，还有效地对抗了对噪声标签的记忆化。FLR 展示了与现有标签噪声和联邦学习技术的兼容性，为在充满标签不准确性的联邦学习环境中提高泛化能力铺平了道路。
引用
@article{arxiv.2402.05353,
title = {Revisiting Early-Learning Regularization When Federated Learning Meets Noisy Labels},
author = {Taehyeon Kim and Donggyu Kim and Se-Young Yun},
journal= {arXiv preprint arXiv:2402.05353},
year = {2024}
}