级联与代理成员推断攻击

成员推断攻击（MIA）通过确定特定查询实例是否包含在数据集中，来评估训练好的机器学习模型在多大程度上泄露其训练数据。我们根据对手是否被允许在成员查询上训练影子模型，将现有的MIA分为自适应或非自适应。在自适应设置中，对手可以在访问查询实例后训练影子模型，我们强调了利用实例间成员依赖性的重要性，并提出了一种称为级联成员推断攻击（CMIA）的攻击无关框架，该框架通过条件影子训练纳入成员依赖性以提升成员推断性能。在非自适应设置中，对手被限制在获得成员查询之前训练影子模型，我们引入了代理成员推断攻击（PMIA）。PMIA采用一种代理选择策略，识别与查询实例行为相似的样本，并使用它们在影子模型中的行为执行成员后验几率检验以进行成员推断。我们为两种攻击提供了理论分析，大量实验结果表明，CMIA和PMIA在两种设置中都显著优于现有的MIA，特别是在低假阳性率区域，这对于评估隐私风险至关重要。