针对目标检测模型的成员推断攻击
计算机视觉与模式识别
2020-01-29 v2 密码学与安全
摘要
机器学习模型可能泄露其训练数据集的信息。本文提出了首个针对黑盒目标检测模型的成员推断攻击,用于判断给定数据记录是否用于训练。为攻击目标检测模型,我们设计了一种称为画布方法的新颖方法,该方法将预测的边界框绘制在空图像上作为攻击模型输入。基于实验,我们成功揭示了使用单阶段和两阶段检测模型训练的私有敏感数据的成员状态。随后我们提出了防御策略,并进行了模型与数据集间的迁移攻击。我们的结果表明,目标检测模型也像其他模型一样易受推断攻击。
引用
@article{arxiv.2001.04011,
title = {Membership Inference Attacks Against Object Detection Models},
author = {Yeachan Park and Myungjoo Kang},
journal= {arXiv preprint arXiv:2001.04011},
year = {2020}
}