具有信息论防护以应对成员推断攻击的生成模型
机器学习
2022-06-02 v1 密码学与安全
摘要
深度生成模型，如生成对抗网络(GANs)，通过估计高维数据的底层分布来合成多样的高保真数据样本。尽管取得成功，GANs 可能泄露其训练数据的隐私信息，使其易受对抗攻击，例如成员推断攻击，其中 adversary 旨在判断某条记录是否属于训练集。我们提出一个信息论驱动的正则化项，防止生成模型过拟合训练数据并鼓励泛化性。我们证明该惩罚最小化在不同成员关系数据上训练的生成器组件之间的 Jensen-Shannon 散度，且可通过一个附加分类器以低成本实现。我们在图像数据集上的实验表明，所提正则化仅增加微小计算成本，却使 GANs 能够保护隐私并生成高质量样本，相较非隐私与差分隐私生成模型取得更优的下游分类性能。
引用
@article{arxiv.2206.00071,
title = {Generative Models with Information-Theoretic Protection Against Membership Inference Attacks},
author = {Parisa Hassanzadeh and Robert E. Tillman},
journal= {arXiv preprint arXiv:2206.00071},
year = {2022}
}