一种针对神经网络模型提取的防护方法
机器学习
2020-08-03 v3 密码学与安全
机器学习
摘要
给定对神经网络（NN）的预言机访问权限，可以提取其底层模型。我们在此引入一种防护方法，通过添加寄生层来保持底层 NN 的预测基本不变，同时使逆向工程的任务复杂化。我们的对策依赖于用卷积 NN 逼近带噪声的恒等映射。我们解释了为何引入新的寄生层会使攻击复杂化。我们报告了关于受保护 NN 的性能与准确率的实验。
引用
@article{arxiv.2005.12782,
title = {A Protection against the Extraction of Neural Network Models},
author = {Hervé Chabanne and Vincent Despiegel and Linda Guiga},
journal= {arXiv preprint arXiv:2005.12782},
year = {2020}
}
备注
Add Noisy Identity Parasitic layers