CaBaGe：使用类别平衡生成器集成的无数据模型提取
密码学与安全
2024-09-18 v1 机器学习
摘要
机器学习即服务通常以按查询付费的黑盒系统形式提供给客户。这种黑盒方法不仅阻碍了对模型结果的开源复制、验证和解释，也使得白帽研究人员更难识别 MLaaS 系统中的漏洞。模型提取是一种很有前景的技术，通过对黑盒模型进行逆向工程来解决这些挑战。由于 MLaaS 模型的训练数据通常不可用，本文重点关注其现实版本：无数据模型提取。我们提出了一种无数据模型提取方法 CaBaGe，以通过少量查询实现更高的模型提取准确率。我们的创新包括：(1) 一种用于聚焦困难训练样本的新型经验回放；(2) 一个用于稳定产生多样化合成数据的生成器集成；(3) 一个用于用更难、更平衡的样本查询受害模型的选择性过滤过程。此外，我们首次创建了一个更现实的设置，其中攻击者不知道受害训练数据中的类别数量，并提出了一种动态学习类别数量的解决方案。我们的评估表明，CaBaGe 在七个数据集——MNIST、FMNIST、SVHN、CIFAR-10、CIFAR-100、ImageNet-subset 和 Tiny ImageNet——上优于现有技术，提取模型的准确率提升了高达 43.13%。此外，提取一个与先前工作最终准确率相匹配的克隆模型所需的查询数量减少了高达 75.7%。
引用
@article{arxiv.2409.10643,
title = {CaBaGe: Data-Free Model Extraction using ClAss BAlanced Generator Ensemble},
author = {Jonathan Rosenthal and Shanchao Liang and Kevin Zhang and Lin Tan},
journal= {arXiv preprint arXiv:2409.10643},
year = {2024}
}