一种利用公开数据提取深度神经网络的框架
机器学习
2019-05-23 v1 人工智能
密码学与安全
机器学习
摘要
在机密数据集上训练的机器学习模型正日益被部署以营利。机器学习即服务（MLaaS）使此类模型易于被终端用户访问。先前工作已提出模型提取攻击，其中 adversary 通过对 MLaaS 模型进行黑盒查询来提取其近似模型。然而，这些工作均无法满足实用模型提取的三个基本准则：（1）能作用于深度学习模型，（2）不需要领域知识，（3）能在有限查询预算下工作。我们设计了一个利用主动学习与大型公开数据集的模型提取框架以满足上述要求。我们证明，使用该框架可以窃取在图像与文本领域多种数据集上训练的深度分类器。通过黑盒访问查询模型的 top 预测，我们的框架在图像任务上平均相较均匀噪声基线提升 4.70 倍性能，在文本任务上提升 2.11 倍，同时仅使用了其可用公开数据集的 30%（30,000 样本）。
引用
@article{arxiv.1905.09165,
title = {A framework for the extraction of Deep Neural Networks by leveraging public data},
author = {Soham Pal and Yash Gupta and Aditya Shukla and Aditya Kanade and Shirish Shevade and Vinod Ganapathy},
journal= {arXiv preprint arXiv:1905.09165},
year = {2019}
}