MEAOD：针对目标检测器的模型提取攻击
密码学与安全
2023-12-25 v1 人工智能
摘要
深度学习技术在各行业的广泛应用使得深度神经网络模型极具价值，因此成为潜在攻击者的有吸引力的目标。模型提取攻击，特别是基于查询的模型提取攻击，允许攻击者复制一个与受害者模型功能相当的替代模型，对MLaaS平台的机密性和安全性构成重大威胁。虽然近年来许多研究探讨了针对分类模型的模型提取攻击威胁，但在实际场景中更常用的目标检测模型受到的关注较少。本文研究了针对目标检测模型的基于查询的模型提取攻击的挑战和可行性，并提出了一种有效的攻击方法MEAOD。它从攻击者拥有的数据集中选择样本，利用主动学习构建高效的查询数据集，并增强类别中对象不足的样本。我们还通过更新查询数据集的标注来进一步提高提取效果。根据我们的灰盒和黑盒场景实验，在给定10k查询预算的条件下，我们实现了超过70%的提取性能。
引用
@article{arxiv.2312.14677,
title = {MEAOD: Model Extraction Attack against Object Detectors},
author = {Zeyu Li and Chenghui Shi and Yuwen Pu and Xuhong Zhang and Yu Li and Jinbao Li and Shouling Ji},
journal= {arXiv preprint arXiv:2312.14677},
year = {2023}
}