针对集中式机器学习与联邦学习的白盒推理攻击
密码学与安全
2023-01-11 v1 机器学习
摘要
随着信息科学技术的发展,各行业产生了海量数据,机器学习被广泛应用于大数据分析中。然而,若机器学习应用客户的隐私无法得到保障,将给用户个人隐私信息和服务提供商带来安全威胁与损失。因此,机器学习的隐私保护问题受到广泛关注。对于集中式机器学习模型,我们在具备先验知识的情况下评估了不同神经网络层、梯度、梯度范数和微调模型对成员推理攻击性能的影响;对于联邦学习模型,我们讨论了攻击者在目标模型中的位置及其攻击模式。结果表明,集中式机器学习模型在各方面的成员信息泄露更为严重,且中央参数服务器中攻击者的准确率显著高于作为参与者的本地推理攻击。
引用
@article{arxiv.2301.03595,
title = {White-box Inference Attacks against Centralized Machine Learning and Federated Learning},
author = {Jingyi Ge},
journal= {arXiv preprint arXiv:2301.03595},
year = {2023}
}
备注
17 papers, 3 figures, 6 tables