为沉默者发声：提升联邦学习中非参与客户端的泛化能力

联邦学习（FL）因其在不直接共享数据的情况下进行协作模型训练的能力而迅速受到重视。然而，客户端本地数据分布间的巨大差异（常称为非独立同分布（Non-IID）挑战）对 FL 的泛化效能构成重大障碍。当并非所有客户端都参与训练过程时，情形更为复杂——由于网络连接不稳定或计算能力有限，这种情况十分常见。这会极大增加训练模型泛化能力评估的难度。尽管近期大量研究聚焦于参与客户端不同分布下未见过数据的泛化差距，但参与客户端训练分布与非参与客户端测试分布之间的差异在很大程度上被忽视了。对此，本文揭示了一个信息论驱动的 FL 泛化框架。具体而言，它通过评估本地分布的信息熵并辨识这些分布间的差异来量化泛化误差。受我们所推导泛化界启发，我们提出一种加权聚合方法与两种客户端选择策略。这些创新旨在增强 FL 的泛化能力，从而通过纳入更多样化的客户端数据分布，确保训练模型在非参与客户端上表现更优。我们广泛的实证评估重申了所提方法的有效性，与我们的理论构建完全吻合。