某些目标比其他目标更难识别:量化依赖目标的成员泄露
机器学习
2025-03-07 v2 密码学与安全
统计理论
机器学习
统计理论
摘要
在成员推断(MI)游戏中,攻击者试图推断目标点是否包含在算法的输入中。现有研究表明,某些目标点更容易被识别,而另一些则更难。本文通过研究固定目标 MI 游戏中最优攻击的能力,解释了依赖目标的成员攻击难度。我们根据目标点与数据生成分布之间的马氏距离,刻画了针对经验均值的攻击的最优优势和权衡函数。我们进一步推导了两种隐私防御措施(即添加高斯噪声和子采样)以及目标指定错误对最优攻击的影响。作为我们对似然比(LR)检验新颖分析的副产品,我们提出了一种新的协方差攻击,该攻击推广并改进了标量积攻击。此外,我们提出了一种新的最优金丝雀选择策略,用于在白盒联邦学习设置中审计隐私。我们的实验验证了马氏分数解释了固定目标 MI 游戏的难度。
引用
@article{arxiv.2402.10065,
title = {Some Targets Are Harder to Identify than Others: Quantifying the Target-dependent Membership Leakage},
author = {Achraf Azize and Debabrota Basu},
journal= {arXiv preprint arXiv:2402.10065},
year = {2025}
}
备注
Appears in AISTATS 2025 (Oral)