NeuGuard：面向成员推断攻击的轻量级神经元引导防御
密码学与安全
2022-12-14 v2 人工智能
机器学习
摘要
针对机器学习模型的成员推断攻击(MIAs)会对模型训练所用训练数据集带来严重隐私风险。本文提出一种新颖有效的神经元引导防御方法NeuGuard以抵御成员推断攻击(MIAs)。我们指出已有MIA防御机制的一个关键弱点：它们无法同时防御两种常用的基于神经网络的MIA，表明应分别评估这两种攻击以确保防御有效性。我们提出NeuGuard，一种联合控制输出与内部神经元激活、以引导训练集与测试集模型输出具有相近分布的新型防御方法。NeuGuard由面向限制最终输出神经元的类间方差最小化，以及旨在约束各层内部神经元的层间平衡输出控制组成。我们在三个基准数据集上，针对两种基于神经网络的MIA、五种最强的基于度量的MIA(包括新提出的仅标签MIA)，评估NeuGuard并与最先进防御方法比较。结果表明，NeuGuard以更优的效用-隐私权衡、通用性和开销优于最先进防御方法。
引用
@article{arxiv.2206.05565,
title = {NeuGuard: Lightweight Neuron-Guided Defense against Membership Inference Attacks},
author = {Nuo Xu and Binghui Wang and Ran Ran and Wujie Wen and Parv Venkitasubramaniam},
journal= {arXiv preprint arXiv:2206.05565},
year = {2022}
}