论成员推断攻击的不可靠性
密码学与安全
2023-05-01 v2 人工智能
摘要
随着机器学习模型的广泛应用，研究在敏感数据上训练得到的模型的潜在数据泄露问题已变得至关重要。近来，人们提出了多种成员推断（MI）攻击，以判断某个样本是否属于训练集。问题在于这些攻击能否在实践中有可靠用途。我们表明，MI模型经常将成员样本邻近的非成员样本误分类为成员。换言之，在它们所能识别的精确成员样本的子群体上，它们具有极高的假阳性率。随后我们展示了一个MI攻击的实际应用场景，其中该问题会产生现实影响：外部审计者（调查员）利用MI攻击向法官/陪审团证明被审计者非法使用了敏感数据；由于MI攻击在成员子群体上的高假阳性率，被审计者通过揭示MI攻击在这些子群体上的表现来质疑审计者的可信度。我们认为，当前的成员推断攻击能够识别被记忆的子群体，但无法可靠地识别该子群体中具体哪一个样本在训练中被使用。
引用
@article{arxiv.2212.02701,
title = {On the Discredibility of Membership Inference Attacks},
author = {Shahbaz Rezaei and Xin Liu},
journal= {arXiv preprint arXiv:2212.02701},
year = {2023}
}