TableGAN-MCA:评估 GAN 合成表格数据发布的成员碰撞
密码学与安全
2021-07-29 v1
摘要
生成对抗网络(Generative Adversarial Networks, GAN)合成的表格发布使人们能够在无需访问私有表格的情况下私有地学习洞察。然而,现有的成员推断(Membership Inference, MI)攻击研究在披露 GAN 合成表格训练数据集的成员方面显示出有前景的结果。与那些聚焦于发现给定数据点的成员身份的工作不同,本文提出了一种新颖的针对 GAN 的成员碰撞攻击(TableGAN-MCA),该攻击允许仅给定从黑盒生成器中随机采样的合成条目的 adversary 恢复部分 GAN 训练数据。即,对最先进 MI 攻击免疫的 GAN 合成表格易受 TableGAN-MCA 的攻击。TableGAN-MCA 的成功得益于一个观察:GAN 合成表格可能与生成器的训练数据发生碰撞。我们对 TableGAN-MCA 的实验评估有五个主要发现。第一,TableGAN-MCA 在三个常用真实世界数据集上针对四个生成模型具有令人满意的训练数据恢复率。第二,包括 GAN 训练数据规模、GAN 训练轮数以及 adversary 可获得的合成样本数量在内的因素,与 TableGAN-MCA 的成功呈正相关。第三,高频数据点被 TableGAN-MCA 恢复的风险较高。第四,一些独特数据在 TableGAN-MCA 中暴露于意外的高恢复风险,这可能归因于 GAN 的泛化能力。第五,正如预期,未考虑特征间相关性的差分隐私对 TableGAN-MCA 未显示出可观的缓解效果。最后,我们提出了两种缓解方法,并展示出在防御 TableGAN-MCA 时良好的隐私与效用权衡。
引用
@article{arxiv.2107.13190,
title = {TableGAN-MCA: Evaluating Membership Collisions of GAN-Synthesized Tabular Data Releasing},
author = {Aoting Hu and Renjie Xie and Zhigang Lu and Aiqun Hu and Minhui Xue},
journal= {arXiv preprint arXiv:2107.13190},
year = {2021}
}
备注
Accepted to ACM CCS 2021