基于类别条件共享客户端的仅使用无标签数据的联邦学习
机器学习
2022-05-12 v2
摘要
有监督联邦学习（FL）允许多个客户端在不共享其有标签数据的情况下共享训练好的模型。然而，潜在客户端甚至可能不愿意标记自己的数据，这可能限制联邦学习在实践中的应用。在本文中，我们展示了无监督联邦学习的可能性，即如果客户端拥有的无标签数据中类别先验概率发生偏移而类别条件分布共享，其模型仍然是一个用于预测类别标签的分类器。我们提出了无监督学习联邦（FedUL），其中无标签数据被转换为每个客户端的代理有标签数据，通过有监督联邦学习训练一个修改后的模型，并从修改后的模型中恢复出所需模型。FedUL是无监督联邦学习的一个非常通用的解决方案：它与许多有监督联邦学习方法兼容，并且所需模型的恢复可以在理论上得到保证，如同数据已被标记一样。在基准数据集和真实世界数据集上的实验证明了FedUL的有效性。代码可在https://github.com/lunanbit/FedUL获取。
引用
@article{arxiv.2204.03304,
title = {Federated Learning from Only Unlabeled Data with Class-Conditional-Sharing Clients},
author = {Nan Lu and Zhao Wang and Xiaoxiao Li and Gang Niu and Qi Dou and Masashi Sugiyama},
journal= {arXiv preprint arXiv:2204.03304},
year = {2022}
}
备注
ICLR 2022 camera-ready version