联邦学习中针对安全聚合的客户端特定属性推断

联邦学习已成为一种广泛使用的范式，借助协调训练的中心服务器，在不同参与者间协作训练通用模型。尽管在联邦训练期间仅交换模型参数或其他模型更新而非参与者的数据，许多攻击已表明仍有可能推断敏感信息，如成员关系、属性，或参与者数据的彻底重构。尽管差分隐私被视为抵御隐私攻击的有效方案，其也因对效用的负面影响而受诟病。另一种可能的防御是使用安全聚合，其允许服务器仅访问聚合更新而非每个个体更新，且通常更具吸引力，因其不降低模型质量。然而，仅组合每轮由不同客户端构成所生成的聚合更新，仍可能允许推断某些客户端特定信息。在本文中，我们表明简单线性模型可因聚合的线性，仅从聚合模型更新中有效捕获客户端特定属性。我们跨不同轮次构建一个优化问题，以从线性模型输出推断每个客户端的被测属性，例如其训练数据中是否具有特定样本（成员推断），或其是否行为不当并试图通过投毒攻击降低通用模型性能。我们的重构技术完全被动且不可检测。我们在若干场景下展示了方法的有效性，表明安全聚合在实践中提供的隐私保证非常有限。源代码将在发表后发布。