RDP-GAN：一种基于Rényi差分隐私的生成对抗网络
机器学习
2020-07-07 v1 密码学与安全
网络与互联网体系结构
机器学习
摘要
生成对抗网络(GAN)近年来因其在高隐私保护下生成逼真样本的出色能力而受到越来越多的关注。生成模型无需直接与训练样本交互即可充分利用以估计原始数据集的底层分布，而判别模型可通过将标签值与训练样本比较来检验生成样本的质量。然而，当GAN应用于敏感或私有训练样本（如医疗或金融记录）时，仍有可能泄露个人的敏感和私有信息。为缓解此类信息泄露并构建私有GAN，本工作中我们提出一种Rényi差分私有GAN（RDP-GAN），其通过在训练期间对损失函数的值仔细添加随机噪声而在GAN中实现差分隐私(DP)。此外，我们推导了在子采样方法与累积迭代下总隐私损失的解析结果，显示了其在隐私预算分配上的有效性。另外，为减轻注入噪声带来的负面影响，我们通过添加自适应噪声调节步骤来增强所提算法，该步骤将根据测试准确率改变所加噪声的量。通过广泛的实验结果，我们验证了所提算法相较于基于训练梯度噪声扰动的基准DP-GAN方案，能在生成高质量样本的同时实现更好的隐私水平。
引用
@article{arxiv.2007.02056,
title = {RDP-GAN: A R\'enyi-Differential Privacy based Generative Adversarial Network},
author = {Chuan Ma and Jun Li and Ming Ding and Bo Liu and Kang Wei and Jian Weng and H. Vincent Poor},
journal= {arXiv preprint arXiv:2007.02056},
year = {2020}
}