Morphence-2.0：由分布外检测驱动的抗规避移动目标防御
密码学与安全
2022-06-16 v1 机器学习
摘要
针对机器学习模型的规避攻击通常通过迭代探测固定目标模型而成功，即一次成功的攻击会反复成功。一种有前景的应对该威胁的方法是将模型变为针对对抗性输入的运动目标。为此，我们引入了 Morphence-2.0，一种由分布外（OOD）检测驱动的可扩展移动目标防御（MTD），以防御对抗样本。通过定期移动模型的决策函数，Morphence-2.0 使重复或相关攻击难以成功。Morphence-2.0 以在响应预测查询时引入足够随机性的方式，从基础模型生成模型池进行部署。通过 OOD 检测，Morphence-2.0 配备了一种调度方法，将对抗样本分配给鲁棒决策函数，将良性样本分配给未防御的精确模型。为确保重复或相关攻击失败，部署的模型池在达到查询预算后自动过期，并由预先生成的新模型池无缝替换。我们在两个基准图像分类数据集（MNIST 和 CIFAR10）上针对 4 种参考攻击（3 种白盒和 1 种黑盒）评估了 Morphence-2.0。Morphence-2.0 在保持干净数据准确率并降低攻击可迁移性的同时，持续优于先前的防御。我们还表明，当由 OOD 检测驱动时，Morphence-2.0 能够精确地基于输入移动模型决策函数，从而在对抗性和良性查询上均获得更高的预测准确率。
引用
@article{arxiv.2206.07321,
title = {Morphence-2.0: Evasion-Resilient Moving Target Defense Powered by Out-of-Distribution Detection},
author = {Abderrahmen Amich and Ata Kaboudi and Birhanu Eshete},
journal= {arXiv preprint arXiv:2206.07321},
year = {2022}
}
备注
13 pages, 6 figures, 2 tables. arXiv admin note: substantial text overlap with arXiv:2108.13952