EG-Booster：基于解释引导的机器学习规避攻击增强器
密码学与安全
2021-09-03 v2 机器学习
摘要
机器学习（ML）在众多领域的广泛使用引发了其在安全关键环境中可信赖性的疑问。可信赖 ML 追求的一部分是对 ML 模型在测试时对抗样本下的鲁棒性评估。契合可信赖 ML 目标，有助于辅助鲁棒性评估的有用输入是基于特征的模型预测解释。本文提出一种称为 EG-Booster 的新方法，利用可解释 ML 技术引导对抗样本生成，以在将 ML 模型部署于安全关键环境前改进其鲁棒性评估。EG-Booster 的关键洞见是利用模型预测的基于特征的解释来引导对抗样本生成：添加可能导致模型规避的关键扰动，并避免不太可能促成规避的非关键扰动。EG-Booster 与模型架构、威胁模型无关，并支持文献中先前使用的多种距离度量。我们使用图像分类基准数据集 MNIST 和 CIFAR10 评估 EG-Booster。我们的发现表明，EG-Booster 在更少扰动次数下显著提升了 SOTA 攻击的规避率。通过涵盖四种白盒与三种黑盒攻击的广泛实验，我们展示了 EG-Booster 对两个训练于 MNIST 和 CIFAR10 的未防御神经网络，以及另一个训练于 CIFAR10 的对抗训练 ResNet 模型的有效性。此外，我们引入稳定性评估度量，并通过观察 EG-Booster 多次运行中模型分类输出的相似性来评估我们基于解释方法的可靠性。
引用
@article{arxiv.2108.13930,
title = {EG-Booster: Explanation-Guided Booster of ML Evasion Attacks},
author = {Abderrahmen Amich and Birhanu Eshete},
journal= {arXiv preprint arXiv:2108.13930},
year = {2021}
}