SemiDFL：一种用于去中心化联邦学习的半监督范式

去中心化联邦学习（DFL）实现了连接客户端之间的协作模型训练，无需依赖中央服务器，从而缓解了通信瓶颈并消除了集中式联邦学习（CFL）中存在的单点故障问题。现有大多数关于DFL的工作都集中在监督学习上，假设每个客户端拥有足够的标记数据进行本地训练。然而，在现实应用中，大部分数据是未标记的。我们通过考虑DFL中一个具有挑战性但实用的半监督学习（SSL）场景来解决这一问题，其中客户端可能拥有不同的数据源：一些只有少量标记样本，一些只有纯未标记数据，还有一些两者兼有。在这项工作中，我们提出了SemiDFL，这是第一种半监督DFL方法，通过在数据和模型空间中建立共识来增强SSL场景下的DFL性能。具体来说，我们利用邻域信息来提高伪标签的质量，这对于有效利用未标记数据至关重要。然后，我们设计了一个基于共识的扩散模型来生成合成数据，并将其与伪标签数据结合使用以创建混合数据集。此外，我们开发了一种自适应聚合方法，利用合成数据的模型精度进一步提高SemiDFL性能。通过大量实验，我们证明了所提出的DFL-Semi方法在独立同分布（IID）和非独立同分布（non-IID）半监督学习场景下，相对于现有CFL和DFL方案具有显著的性能优势。