针对彩票票假设网络的成员推断攻击
机器学习
2021-08-10 v1 密码学与安全
计算机视觉与模式识别
摘要
彩票票假设（Lottery Ticket Hypothesis）的脆弱性尚未从成员推断攻击的角度被研究。通过本工作，我们首次以实证方式表明彩票票网络同样易受成员推断攻击。成员推断攻击（MIA）是判断某个数据样本是否属于已训练模型的训练集的过程。成员推断攻击可能泄露关于训练数据的关键信息，进而被用于针对性攻击。近期的深度学习模型通常具有很大的内存占用以及较高的训练和推断计算成本。彩票票假设用于剪枝网络以寻找更小的子网络，这些子网络在相似迭代次数下至少匹配原模型在测试准确率上的表现。我们使用 CIFAR-10、CIFAR-100 和 ImageNet 数据集执行图像分类任务，并观察到攻击准确率相近。我们还发现攻击准确率随数据集类别数与网络稀疏度直接变化。我们证明这些攻击可跨模型以高准确率迁移。
引用
@article{arxiv.2108.03506,
title = {Membership Inference Attacks on Lottery Ticket Networks},
author = {Aadesh Bagmar and Shishira R Maiya and Shruti Bidwalka and Amol Deshpande},
journal= {arXiv preprint arXiv:2108.03506},
year = {2021}
}