针对表格数据合成模型的成员推断攻击实证研究
密码学与安全
2022-08-26 v2 人工智能
摘要
表格数据通常包含私密且重要的信息；因此，在与他人共享之前必须采取预防措施。尽管已有若干方法（例如差分隐私与 k-匿名）被提出以防止信息泄露，但近年来表格数据合成模型变得流行，因为它们能在数据效用与隐私之间实现良好权衡。然而，近期研究表明，图像数据的生成模型易受成员推断攻击，该攻击可判定给定记录是否曾用于训练受害合成模型。本文中，我们研究表格数据合成场景下的成员推断攻击。我们在两种攻击场景（即一种黑盒与一种白盒攻击）下对 4 种最先进的表格数据合成模型进行实验，发现成员推断攻击会严重危及这些模型。接着我们实验评估两种流行的差分隐私深度学习训练算法 DP-SGD 与 DP-GAN 对该攻击的防护效果。我们的核心发现是：两种算法均可通过牺牲生成质量大幅缓解此威胁。
引用
@article{arxiv.2208.08114,
title = {An Empirical Study on the Membership Inference Attack against Tabular Data Synthesis Models},
author = {Jihyeon Hyeong and Jayoung Kim and Noseong Park and Sushil Jajodia},
journal= {arXiv preprint arXiv:2208.08114},
year = {2022}
}
备注
Accepted by CIKM 2022