图神经网络上的对抗式模型提取
机器学习
2019-12-18 v1 机器学习
摘要
随着深度神经网络的出现,各种利用方法也随之而来,例如欺骗分类器或污染其训练数据。另一种此类攻击被称为模型提取,即在对某黑盒神经网络提供API访问的情况下,攻击者提取底层模型。这是通过以某种方式查询模型,使底层神经网络向攻击者提供足够信息以被重建来实现的。尽管若干工作在命题域中的神经网络提取方面取得了令人印象深刻的成果,但该问题尚未在关系域中被考虑,其中数据样本不再被视为独立同分布(iid)。图神经网络(GNNs)是一种流行的深度学习框架,用于在关系数据上执行机器学习任务。在本工作中,我们形式化了GNN提取的一个实例,提出了一种带有初步结果的解决方案,并讨论了我们的假设与未来方向。
引用
@article{arxiv.1912.07721,
title = {Adversarial Model Extraction on Graph Neural Networks},
author = {David DeFazio and Arti Ramesh},
journal= {arXiv preprint arXiv:1912.07721},
year = {2019}
}
备注
AAAI Workshop on Deep Learning on Graphs: Methodologies and Applications (DLGMA), 2020