我知道你去年夏天训练了什么：机器学习模型窃取与防御综述

机器学习即服务（MLaaS）已成为一种广泛传播的范式，使即便最复杂的机器学习模型也能通过例如按查询付费原则向客户开放。这使用户免去了耗时的数据收集、超参数调优和模型训练过程。然而，通过向客户提供对其模型的（预测）访问权限，MLaaS 提供商使其知识产权（如敏感训练数据、优化超参数或学到的模型参数）面临风险。 adversary 仅利用预测标签即可创建具有（几乎）相同行为的模型副本。尽管已描述该攻击的多种变体，但仅提出了零散的防御策略，应对孤立的威胁。这催生了对模型窃取领域进行彻底系统化的需求，以全面理解这些攻击为何成功，以及如何从整体上防御。我们通过分类并比较模型窃取攻击、评估其性能，并探索不同设置下的相应防御技术来解决此问题。我们提出攻击与防御方法的分类法，并提供如何基于目标和可用资源选择正确攻击或防御策略的指南。最后，我们分析了当前攻击策略使哪些防御措施效力减弱。