FedFA：联邦特征增强

联邦学习是一种分布式范式，允许多方在不交换原始数据的情况下协作训练深度模型。然而，客户端之间的数据分布自然是非独立同分布的（non-i.i.d.），这导致所学模型严重退化。本文的主要目标是开发一种鲁棒的联邦学习算法，以解决客户端样本中的特征偏移问题，该问题可能由多种因素引起，例如医学影像中的采集差异。为实现这一目标，我们从联邦特征增强这一独特视角提出 FedFA 来解决联邦学习问题。FedFA 基于一个主要见解：每个客户端的数据分布可由潜特征统计量（即均值和标准差）刻画；并且有可能基于整个联邦的信息在全球范围内操纵这些局部统计量，使客户端更好地感知潜在分布，从而缓解局部数据偏差。基于该见解，我们提出基于正态分布对每个局部特征统计量进行概率性增强，其均值为原始统计量，方差量化增强范围。我们方法的关键在于确定有意义的高斯方差，这通过不仅考虑每个单独客户端的偏置数据，还考虑所有参与客户端刻画的潜在特征统计量来实现。我们提供了理论和实证依据来验证 FedFA 的有效性。我们的代码可在 https://github.com/tfzhou/FedFA 获取。