FedDPC：处理数据异构性和部分客户端参与的联邦学习

数据异构性是现代联邦学习（FL）中的重要挑战，因为它在 local model 更新之间引入方差，导致聚合后的全局模型偏离 true global optimum。部分客户端参与进一步恶化了这一问题，通过将 local model 的聚合倾向于参与客户端的数据分布，从而在全局模型更新中引入额外方差，导致全局模型收敛偏离 global objective 的最优解。这些方差导致 FL 训练不稳定，降低全局模型性能并减慢 FL 训练速度。虽然已有文献主要关注解决数据异构性问题，但部分客户端参与的影响受到 insufficient 关注。本文提出 FedDPC，一种 novel FL 方法，旨在通过抑制数据异构性和部分客户端参与来提高 FL 训练效果和全局模型性能。FedDPC 通过将每个 local update 投影到 previous global update 来控制 local 和 global 更新中的方差。为进一步加速 FL 训练，FedDPC 在聚合前为每个 local update 采用 adaptive scaling。在多个异构分区数据集上的大规模实验验证了 FedDPC 的有效性。结果表明，FedDPC 通过实现更快的训练损失下降和在通信轮次中的 improved test accuracy，优于 state-of-the-art FL 算法。