论难度校准在成员推断攻击中的重要性
密码学与安全
2022-04-12 v2 机器学习
摘要
近年来，机器学习模型对成员推断攻击的脆弱性受到了广泛关注。然而，现有攻击大多由于假阳性率较高而不切实际，非成员样本常被错误地预测为成员。这类错误使得预测的成员信号不可靠，特别是在现实应用中大多数样本为非成员的情况下。在本工作中，我们认为成员推断攻击可从难度校准中大幅受益，即把攻击预测的成员分数针对正确分类目标样本的难度进行调整。我们表明，难度校准能在不损失准确率的情况下显著降低多种现有攻击的假阳性率。
引用
@article{arxiv.2111.08440,
title = {On the Importance of Difficulty Calibration in Membership Inference Attacks},
author = {Lauren Watson and Chuan Guo and Graham Cormode and Alex Sablayrolles},
journal= {arXiv preprint arXiv:2111.08440},
year = {2022}
}
备注
16 pages