基于 MCMC 的贝叶斯估计：从成员推断攻击推导差分隐私
机器学习
2025-11-04 v1 机器学习
摘要
我们提出了一种新的框架，用于从多个成员推断攻击（MIA）中进行贝叶斯差分隐私估计。通过马尔可夫链蒙特卡罗（MCMC）算法进行贝叶斯估计，称为 MCMC-DP-Est，该方法提供差分隐私参数（例如，而不仅仅是可信区间）的完整后验分布估计。关键在于，所提出的方法不假设隐私审计是针对最强power攻击在最坏情况（数据集、挑战点）对上执行的，这通常是不切实际的。相反，MCMC-DP-Est 同时估计所使用的 MIA 的强度和训练算法的隐私，从而进行更谨慎的隐私分析。我们还 presents一种经济方式，用于生成用于 MCMC 方法估计隐私的 MIA 的绩效测量。我们使用数值示例展示了该方法在人工数据和真实数据上的应用。
引用
@article{arxiv.2504.16683,
title = {MCMC for Bayesian estimation of Differential Privacy from Membership Inference Attacks},
author = {Ceren Yildirim and Kamer Kaya and Sinan Yildirim and Erkay Savas},
journal= {arXiv preprint arXiv:2504.16683},
year = {2025}
}
备注
Code available: https://github.com/cerenyildirim/MCMC_for_Bayesian_estimation