联邦学习中潜在信息泄漏的逐层表征

通过联邦学习训练深度神经网络，客户端只需共享在其数据上训练的模型，而非原始数据。已有工作表明，在实践中，客户端与主要学习任务无关的私有信息可从模型梯度中被发现，这破坏了所承诺的隐私保护。然而，目前仍缺乏量化通过共享的更新模型或梯度泄漏私有信息的正式方法。本工作中，我们分析属性推断攻击，并基于（i）经验$\mathcal{V}$-信息的适配，以及（ii）使用Jacobian矩阵的敏感性分析定义两个度量，使我们能衡量梯度相对于潜在信息的变化。我们展示了所提度量在逐层定位私有潜在信息方面的适用性，以及在我们（i）掌握或（ii）不掌握攻击者能力知识的两种设定下。我们使用三个基准模型和三个真实世界数据集评估了所提的量化信息泄漏度量。