基于生成图像先验的梯度反演
机器学习
2021-10-29 v1
摘要
联邦学习（FL）是一种分布式学习框架，其中本地数据从不离开客户端设备以保护隐私，服务器仅通过访问这些本地数据的梯度在数据上训练模型。若无差分隐私等进一步的隐私机制，这会使系统易受攻击者的攻击，后者反演这些梯度以泄露客户敏感数据。然而，在没有任何先验知识的情况下，仅凭梯度通常不足以重建用户数据。通过利用在数据分布上预训练的生成模型，我们证明数据隐私可轻易被侵犯。进一步，当此类先验知识不可用时，我们研究了从FL训练过程中看到的一系列梯度中学习该先验的可能性。我们通过实验表明，以生成模型形式的先验可从FL中的迭代交互中学习得到。我们的发现强烈表明，有必要采用额外机制来防止FL中的隐私泄露。
引用
@article{arxiv.2110.14962,
title = {Gradient Inversion with Generative Image Prior},
author = {Jinwoo Jeon and Jaechang Kim and Kangwook Lee and Sewoong Oh and Jungseul Ok},
journal= {arXiv preprint arXiv:2110.14962},
year = {2021}
}
备注
Accepted to NeurIPS 2021