MLCapsule：机器学习即服务的受保护离线部署
密码学与安全
2019-02-07 v2 人工智能
机器学习
机器学习
摘要
随着机器学习（ML）技术的广泛使用，机器学习即服务（ML as a service）日益流行。在此场景中，ML模型驻留于服务器，用户可通过API以其数据查询模型。然而，若用户输入敏感，将其发送至服务器并不可取，有时甚至法律上不可行。同样，服务提供商不愿通过向客户端发送模型来共享模型，以保护其知识产权与按查询付费商业模式。本文提出MLCapsule，一种机器学习即服务的受保护离线部署。MLCapsule在用户侧本地执行模型，因此数据从不离开客户端。同时，MLCapsule为服务提供商提供与其常用服务器端执行同等的模型控制与安全级别。此外，MLCapsule适用于需要本地执行的离线应用。除防范直接模型访问外，我们将安全离线部署与针对模型窃取、逆向工程及成员推断等机器学习模型高级攻击的防御相结合。
引用
@article{arxiv.1808.00590,
title = {MLCapsule: Guarded Offline Deployment of Machine Learning as a Service},
author = {Lucjan Hanzlik and Yang Zhang and Kathrin Grosse and Ahmed Salem and Max Augustin and Michael Backes and Mario Fritz},
journal= {arXiv preprint arXiv:1808.00590},
year = {2019}
}