联邦学习中不诚实中央服务器实现的完美准确成员推断
机器学习
2023-11-10 v2 人工智能
密码学与安全
摘要
联邦学习被期望提供强隐私保障，因为无论是在客户端之间还是客户端与中央服务器之间，都只交换梯度或模型参数，而从不交换明文训练数据。在本文中，我们通过引入一种简单但仍非常有效的成员推断攻击算法来质疑这一主张，该算法仅依赖单次训练步骤。与流行的诚实但好奇模型不同，我们研究了一个具有不诚实中央服务器的框架。我们的策略适用于带有 ReLU 激活的模型，并利用该激活函数的性质实现完美准确率。在 MNIST、CIFAR10、CIFAR100 和 CelebA 数据集上的视觉分类任务的实证评估表明，我们的方法在含有数千样本的训练集中识别单个样本时提供完美准确率。我们方法的偶发失败使我们发现了 CIFAR100 和 CelebA 数据集中的重复图像。
引用
@article{arxiv.2203.16463,
title = {Perfectly Accurate Membership Inference by a Dishonest Central Server in Federated Learning},
author = {Georg Pichler and Marco Romanelli and Leonardo Rey Vega and Pablo Piantanida},
journal= {arXiv preprint arXiv:2203.16463},
year = {2023}
}
备注
accepted for publication in IEEE Transactions on Dependable and Secure Computing