目标检测场景下的无数据模型提取攻击
密码学与安全
2023-08-11 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
大量机器学习模型易受模型提取攻击，此类攻击通过针对目标模型构造特定查询来窃取模型。在白盒环境中，利用部分训练数据或替代数据集训练新模型以模仿目标模型可很好地完成该任务。然而在实际情况下，目标模型使用对手无法获取的私有数据集训练。无数据模型提取技术在使用类似生成对抗网络（Generative Adversarial Nets）中生成器人工构造的查询时解决了这一问题。据我们所知，我们首次提出一种对手黑盒攻击，将其扩展至目标检测中预测边界框坐标的回归问题。作为研究的一部分，我们发现定义损失函数并使用新颖的生成器设置是提取目标模型的关键方面之一。我们发现所提出的模型提取方法通过使用合理数量的查询取得了显著结果。这一目标检测漏洞的发现将为未来保护此类模型的前景提供支持。
引用
@article{arxiv.2308.05127,
title = {Data-Free Model Extraction Attacks in the Context of Object Detection},
author = {Harshit Shah and Aravindhan G and Pavan Kulkarni and Yuvaraj Govidarajulu and Manojkumar Parmar},
journal= {arXiv preprint arXiv:2308.05127},
year = {2023}
}
备注
Submitted to The 14th International Conference on Computer Vision Systems (ICVS 2023), to be published in Springer, Lecture Notes in Computer Science