面向联邦半监督学习的 Proxy-Guided 框架——ProxyFL

联邦半监督学习（FSSL）旨在通过在隐私保护的同时利用各客户端部分标注的本地数据来协同训练全局模型。在 FSSL 中，数据异构性是一个具有挑战性的问题，这种异构性同时存在于客户端之间以及客户端内部。外部异构性指的是不同客户端之间数据分布的差异，而内部异构性则表示标记数据与未标记数据之间在客户端内部的不匹配。大多数 FSSL 方法通常设计固定或动态的参数聚合策略来收集服务器（外部）上的客户端知识，以及/或过滤掉低置信度的未标记样本以减少客户端内部的错误。然而，前者难以通过直接权重精确匹配理想的全局分布，后者则导致更少的数据参与 FL 训练。为此，我们提出一种称为 ProxyFL 的 proxy-guided 框架，关注通过统一的 proxy 同时缓解外部和内部异构性。即，我们将分类器的可学习权重作为 proxy 来模拟本地和全局的类别分布。对于外部，我们明确优化全局 proxy 以适应异常值，而非直接权重；对于内部，我们通过正负 proxy 池重新包含被丢弃的样本，以减轻潜在错误伪标签的影响。洞察实验和理论分析表明，我们在 FSSL 中的性能和收敛性显著优于现有方法。