SAME：抵御模型提取攻击的样本重构
密码学与安全
2024-01-09 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
尽管深度学习模型在各个领域展现出卓越的性能，但其部署需要大量资源与先进的计算基础设施。作为解决方案，机器学习即服务（MLaaS）应运而生，降低了用户发布或产品化其深度学习模型的门槛。然而，先前的研究强调了 MLaaS 潜在的隐私与安全风险，其中模型提取攻击是主要威胁之一。针对此问题，现有诸多防御方案，但它们受限于不切实际的假设及泛化问题，难以实现可靠的实际防护。受此局限驱动，我们引入了一种基于样本重构概念的新型防御机制 SAME。该策略对防御者的能力要求极低，无需辅助的分布外（OOD）数据集、用户查询历史、白盒模型访问权限以及模型训练期间的额外干预。它兼容现有的主动防御方法。大量实验证实了 SAME 相较于 SOTA 解决方案的卓越有效性。我们的代码可在 https://github.com/xythink/SAME 获取。
引用
@article{arxiv.2312.10578,
title = {SAME: Sample Reconstruction against Model Extraction Attacks},
author = {Yi Xie and Jie Zhang and Shiqian Zhao and Tianwei Zhang and Xiaofeng Chen},
journal= {arXiv preprint arXiv:2312.10578},
year = {2024}
}
备注
Accepted by AAAI 2024