通过扰动输入防止模型窃取
密码学与安全
2020-08-19 v1 机器学习
摘要
我们展示了如何通过扰动部署在云端的机器学习服务（ML-service）的输入来防范模型窃取攻击。在我们的表述中，存在一个接收用户输入并返回模型输出的 ML-service。存在一个旨在学习该 ML-service 参数的攻击者。我们使用线性和 logistic 回归模型来说明策略性地向输入添加噪声如何从根本改变攻击者的估计问题。我们表明，即使拥有无限样本，攻击者也无法恢复真实的模型参数。我们着重刻画攻击者参数估计误差与 ML-service 输出误差之间的权衡。
引用
@article{arxiv.2005.05823,
title = {Perturbing Inputs to Prevent Model Stealing},
author = {Justin Grana},
journal= {arXiv preprint arXiv:2005.05823},
year = {2020}
}