MLaaS 范式下的模型提取预警
机器学习
2017-11-21 v1 密码学与安全
分布式、并行与集群计算
摘要
云供应商正日益将机器学习服务作为其平台与服务组合的一部分提供。这些服务支持在云上部署机器学习模型，并以按查询付费的方式提供给应用开发者和终端用户。然而近期工作表明，所托管的模型易受提取攻击。攻击者可能发起查询以窃取模型，并损害未来的查询付费或训练数据的隐私。在本工作中，我们提出了一种基于云的提取监视器，可通过观察个体及合谋对抗性用户的查询与响应流来量化模型的提取状态。我们提出了一种新技术，利用信息增益来衡量用户随查询数量增加而产生的模型学习率。此外，我们提出了一种替代技术，在存在合谋的情况下通过维护智能查询摘要，相对于输入特征空间的覆盖率来衡量学习率。这两种方法计算开销低，可轻易作为服务提供给模型所有者以警告其可能遭受的对抗性提取攻击。我们利用开源数据集和不同的对抗性攻击策略，在 BigML MLaaS 平台上部署的决策树模型上给出了这些方法的性能结果。
引用
@article{arxiv.1711.07221,
title = {Model Extraction Warning in MLaaS Paradigm},
author = {Manish Kesarwani and Bhaskar Mukhoty and Vijay Arya and Sameep Mehta},
journal= {arXiv preprint arXiv:1711.07221},
year = {2017}
}