基于随机平滑的可认证鲁棒联邦对抗学习

联邦学习是一种新兴的数据隐私保护分布式学习框架，然而其易受对抗攻击。尽管已有若干启发式防御被提出以增强联邦学习的鲁棒性，但它们未提供可认证的鲁棒性保证。本文中，我们将随机平滑技术引入联邦对抗训练，以实现对测试时对抗扰动具有可认证鲁棒性的数据隐私保护分布式学习。我们的实验表明，这种先进的联邦对抗学习框架能交付与集中式训练所训练模型一样鲁棒的模型。此外，这使得在分布式设置中针对 $\ell_2$ 有界对抗扰动的可证明鲁棒分类器成为可能。我们还表明，基于单点梯度估计的训练方法比流行的基于随机估计器的训练方法快 $2-3\times$，且无明显可认证鲁棒性差异。