基于得分的成员推断攻击中的超参数
机器学习
2025-02-28 v2 人工智能
摘要
成员推断攻击（MIA）已成为评估机器学习模型隐私泄露的有价值框架。得分基MIA尤其能够利用模型为特定输入生成的置信度分数。现有的得分基MIA隐含地假设攻击者获取了目标模型的超参数，这些超参数可用于训练攻击的影子模型。在本工作中，我们表明在迁移学习设置下，获取目标超参数并非执行MIA的必要条件。基于此，我们提出了一种新方法，用于在攻击者对目标超参数一无所知时选择训练MIA影子模型的超参数，通过匹配目标模型和影子模型的输出分布来实现。我们演示，使用新方法获得的超参数可导致攻击性能几乎不输使用目标超参数训练影子模型的攻击。此外，我们研究了在差分隐私（DP）迁移学习中未计入训练数据用于超参数优化（HPO）的经验隐私风险。我们发现，仅凭统计学意义上的证据，进行基于训练数据的HPO并不会增加对MIA的脆弱性。
引用
@article{arxiv.2502.06374,
title = {Hyperparameters in Score-Based Membership Inference Attacks},
author = {Gauri Pradhan and Joonas Jälkö and Marlon Tobaben and Antti Honkela},
journal= {arXiv preprint arXiv:2502.06374},
year = {2025}
}
备注
This work has been accepted for publication in the 3rd IEEE Conference on Secure and Trustworthy Machine Learning (SaTML'25). The final version will be available on IEEE Xplore