PPGAN：隐私保护生成对抗网络
机器学习
2020-04-21 v1 机器学习
摘要
生成对抗网络（GAN）及其变体作为数据生成模型的完美代表，为研究者提供了大量高质量生成数据。它们为数据有限的研究展示了一个有前景的方向。当 GAN 从数据集中学习语义丰富的数据分布时，生成分布的密度倾向于集中在训练数据上。由于深度神经网络的梯度参数包含训练样本的数据分布，它们容易记住训练样本。当 GAN 应用于私有或敏感数据（例如患者医疗记录）时，可能会有私人信息泄露。为解决此问题，我们提出了一种隐私保护生成对抗网络（PPGAN）模型，其中我们通过在模型学习过程中向梯度添加精心设计的噪声，在 GAN 中实现差分隐私。此外，我们在 PPGAN 训练过程中引入矩会计（Moments Accountant）策略，通过控制隐私损失来提高模型的稳定性与兼容性。我们还给出了差分隐私判别器的数学证明。通过对基准数据集的广泛案例研究，我们证明了 PPGAN 能在合理隐私预算下生成高质量合成数据，同时保留所需数据的可用性。
引用
@article{arxiv.1910.02007,
title = {PPGAN: Privacy-preserving Generative Adversarial Network},
author = {Yi Liu and Jialiang Peng and James J. Q Yu and Yi Wu},
journal= {arXiv preprint arXiv:1910.02007},
year = {2020}
}
备注
This paper was accepted by IEEE ICPADS 2019 Workshop. This paper contains 10 pages, 3 figures