鲁棒联邦学习缓解客户端训练数据分布推断攻击

最近的研究表明，联邦学习（FL）曾因客户端不与服务器共享其私有数据而被认为是安全的，但它容易受到诸如客户端训练数据分布推断等攻击，其中恶意客户端可以重建受害者的数据。虽然存在各种对策，但它们并不实用，通常假设服务器在攻击前可以访问某些训练数据或了解标签分布。在这项工作中，我们通过提出InferGuard来弥合这一差距，这是一种新颖的拜占庭鲁棒聚合规则，旨在防御客户端训练数据分布推断攻击。在我们提出的InferGuard中，服务器首先计算其接收到的所有模型更新的逐坐标中位数。如果客户端的模型更新与计算出的中位数更新显著偏离，则该更新被视为恶意的。我们在五个基准数据集上对我们提出的InferGuard进行了全面评估，并与十种基线方法进行了比较。我们的实验结果表明，我们的防御机制在防御客户端训练数据分布推断攻击方面非常有效，甚至能够抵御强自适应攻击。此外，我们的方法在各种实际的FL场景中均显著优于基线方法。