GAN 生成样本的隐私性质
机器学习
2022-06-06 v1 人工智能
密码学与安全
摘要
生成对抗网络（GANs）的隐私影响是一个备受关注的话题，催生了若干近期用于训练具有隐私保证的 GAN 的算法。通过联系 GAN 的泛化性质，我们证明在某些假设下，GAN 生成的样本天然满足某些（弱）隐私保证。首先，我们表明若一个 GAN 在 m 个样本上训练并用于生成 n 个样本，则生成的样本对 (epsilon, delta) 对是 (epsilon, delta)-差分私密的，其中 delta 随 O(n/m) 缩放。我们表明在某些特殊条件下该上界是紧的。接下来，我们研究 GAN 生成样本对成员推断攻击的鲁棒性。我们将成员推断建模为一个假设检验，其中对手须判定给定样本是来自训练数据集还是来自底层数据分布。我们表明该对手所能达到的 ROC 曲线下面积至多随 O(m^{-1/4}) 缩放。
引用
@article{arxiv.2206.01349,
title = {On the Privacy Properties of GAN-generated Samples},
author = {Zinan Lin and Vyas Sekar and Giulia Fanti},
journal= {arXiv preprint arXiv:2206.01349},
year = {2022}
}
备注
AISTATS 2021