鸡尾酒会攻击：利用独立成分分析破解联邦学习中基于聚合的隐私保护
机器学习
2022-09-14 v1 人工智能
密码学与安全
摘要
联邦学习（FL）旨在对多个数据持有者分布的本地数据进行隐私保护的机器学习。为此，FL要求数据持有者在本地执行训练，并与中心服务器共享梯度更新（而非私有输入），随后在多个数据持有者上安全聚合。尽管聚合本身并不能被证明提供隐私保护，先前工作表明若批大小足够大则可能足够。本文提出鸡尾酒会攻击（CPA），与先前认知相反，其能够从聚合于非常大批大小的梯度中恢复私有输入。CPA利用关键洞察：来自全连接层的聚合梯度是其输入的线性组合，这引导我们将梯度反演构建为盲源分离（BSS）问题（非正式称为鸡尾酒会问题）。我们适配独立成分分析（ICA）——BSS问题的经典解法——来恢复全连接与卷积网络的私有输入，并表明CPA显著优于先前的梯度反演攻击，可扩展至ImageNet规模的输入，且适用于高达1024的大批大小。
引用
@article{arxiv.2209.05578,
title = {Cocktail Party Attack: Breaking Aggregation-Based Privacy in Federated Learning using Independent Component Analysis},
author = {Sanjay Kariyappa and Chuan Guo and Kiwan Maeng and Wenjie Xiong and G. Edward Suh and Moinuddin K Qureshi and Hsien-Hsin S. Lee},
journal= {arXiv preprint arXiv:2209.05578},
year = {2022}
}