图神经网络上的模型提取攻击：分类与实现
机器学习
2021-12-02 v2 密码学与安全
摘要
机器学习模型已被证明面临来自模型提取攻击的严重威胁，其中服务提供者拥有的训练良好的私有模型可能被伪装成客户端的攻击者窃取。遗憾的是，先前工作聚焦于在欧氏空间上训练的模型，例如图像和文本，而如何提取包含图结构和节点特征的 GNN 模型尚待探索。在本文中，我们首次全面研究并开发了针对 GNN 模型的模型提取攻击。我们首先系统形式化了 GNN 模型提取背景下的威胁建模，并通过考虑攻击者的不同背景知识（例如攻击者获得的节点属性和/或邻居连接）将对抗威胁分为七类。然后我们提出了详细方法，利用每类威胁中可获取的知识来实施攻击。通过在三个真实世界数据集上评估，我们的攻击被证明能有效提取复刻模型，即目标域中 84% - 89% 的输入与受害模型具有相同的输出预测。
引用
@article{arxiv.2010.12751,
title = {Model Extraction Attacks on Graph Neural Networks: Taxonomy and Realization},
author = {Bang Wu and Xiangwen Yang and Shirui Pan and Xingliang Yuan},
journal= {arXiv preprint arXiv:2010.12751},
year = {2021}
}
备注
This paper has been published in the 17th ACM ASIA Conference on Computer and Communications Security (ACM ASIACCS 2022)