基于知识蒸馏的黑盒成员推断攻击——GLiRA
机器学习
2024-05-14 v1 人工智能
摘要
尽管深度神经网络(DNN)在感知和控制相关任务中展现出卓越的性能，但关于其训练数据隐私的若干未解决问题仍未得到解决，尤其是面对成员推断攻击(MIA)。本文探讨了成员推断攻击易受性与蒸馏式功能窃取攻击易受性之间的联系。具体而言，我们提出了 {GLiRA}，一种基于知识蒸馏的黑盒神经网络成员推断攻击方法。我们观察到，知识蒸馈显著提高了成员推断攻击的似然比效率，尤其是在黑盒设置下，即攻击者不了解目标模型的架构时。我们在多个图像分类数据集和模型上评估了所提出的方法，证明在黑盒设置下的知识蒸馈引导下的似然比攻击，优于当前最先进的成员推断攻击。
引用
@article{arxiv.2405.07562,
title = {GLiRA: Black-Box Membership Inference Attack via Knowledge Distillation},
author = {Andrey V. Galichin and Mikhail Pautov and Alexey Zhavoronkin and Oleg Y. Rogov and Ivan Oseledets},
journal= {arXiv preprint arXiv:2405.07562},
year = {2024}
}