基于学习的难度校准以增强成员推理攻击
密码学与安全
2024-07-10 v3 人工智能
机器学习
摘要
机器学习模型，特别是深度神经网络，目前是从医疗保健到金融等各种应用不可或缺的一部分。然而，使用敏感数据训练这些模型引发了人们对隐私和安全的担忧。成员推理攻击（Membership Inference Attacks, MIA）是一种已出现的方法，用于验证训练后的模型是否保护隐私，它允许敌手确定特定数据点是否属于模型训练数据集的一部分。虽然文献中已提出一系列MIA方法，但只有少数能在低假阳性率（False Positive Rate, FPR）区域（0.01%~1%）实现高真阳性率（True Positive Rate, TPR）。这是MIA在现实场景中具有实际效用需要考虑的关键因素。在本文中，我们提出了一种新颖的MIA方法，旨在显著提高低FPR下的TPR。我们的方法名为基于学习的难度校准MIA（LDC-MIA），它利用神经网络分类器根据数据记录的难度级别对其进行特征刻画，以确定成员资格。实验结果表明，与其他基于难度校准的MIA相比，LDC-MIA能将低FPR下的TPR提高多达4倍。它在所有数据集上也具有最高的ROC曲线下面积（AUC）。我们方法的成本与大多数现有MIA相当，但比最先进的方法之一LiRA效率高出数个数量级，同时实现了相似的性能。
引用
@article{arxiv.2401.04929,
title = {Learning-Based Difficulty Calibration for Enhanced Membership Inference Attacks},
author = {Haonan Shi and Tu Ouyang and An Wang},
journal= {arXiv preprint arXiv:2401.04929},
year = {2024}
}
备注
Accepted to IEEE Euro S&P 2024