基于扩散先验的用户级梯度反向推理

我们探索了用户级梯度反向推理作为分布式学习中的新攻击面。我们首先调查现有攻击在其能够对私人信息进行推断能力，超出训练数据重建。在动机于现有方法在大批量和图像大小上的低重建质量之后，我们提出了一种新的梯度反向推理攻击，该攻击将去噪扩散模型作为强图像先验，以增强大批量设置下的恢复。与传统方法不同，后者旨在重建单个样本并在大批量和图像大小时受限，我们的方法则旨在恢复代表性图像，捕获与 underlying user 相关的敏感共享语义信息。我们的实验使用面部图像表明，我们的方法能够恢复逼真的面部图像以及私人用户属性。