Copycat CNN：随机无标注数据是否足以窃取黑盒模型的知识？
密码学与安全
2021-01-22 v1 计算机视觉与模式识别
机器学习
摘要
卷积神经网络近来取得成功，使公司得以开发基于神经网络的的产品，这一过程代价高昂，涉及数据获取与标注，以及模型生成（通常需要专家）。面对这些成本，公司担忧其模型被复制的安全性，因此以通过 API 访问的黑盒形式交付。然而，我们认为即便黑盒模型仍存在某些漏洞。在一项初步工作中，我们提出了一种简单却强大的方法，通过用自然随机图像查询黑盒模型来复制它们。在本工作中，我们整合并扩展了该 copycat 方法：(i) 取消了部分约束；(ii) 针对多个问题进行了广泛评估；(iii) 在不同架构间复制模型；(iv) 通过观察 copycat 行为进行了更深入的分析。结果表明，自然随机图像可有效生成针对多个问题的 copycat 模型。
引用
@article{arxiv.2101.08717,
title = {Copycat CNN: Are Random Non-Labeled Data Enough to Steal Knowledge from Black-box Models?},
author = {Jacson Rodrigues Correia-Silva and Rodrigo F. Berriel and Claudine Badue and Alberto F. De Souza and Thiago Oliveira-Santos},
journal= {arXiv preprint arXiv:2101.08717},
year = {2021}
}
备注
The code is available at https://github.com/jeiks/Stealing_DL_Models