利用深度学习模型的认识不确定性生成对抗样本
机器学习
2021-02-16 v2 人工智能
摘要
深度神经网络架构被认为对随机扰动具有鲁棒性。然而，已有研究表明，它们可能对输入中轻微但经过精心设计的扰动（称为对抗样本）严重脆弱。近年来，在这一称为“对抗机器学习”的新领域中进行了大量研究，以设计新的对抗攻击并通过更鲁棒的 DNN 架构来防御这些攻击。然而，迄今为止几乎所有研究工作都集中于利用模型损失函数来制作对抗样本或创建鲁棒模型。本研究探索了利用从蒙特卡洛 Dropout 采样获得的量化认识不确定性进行对抗攻击，借此我们将输入扰动到模型此前未见过到的区域。我们基于模型的认识不确定性提出了新的攻击思路。我们的结果表明，在 MNIST Digit、MNIST Fashion 和 CIFAR-10 数据集上，我们提出的混合攻击方法分别将攻击成功率从 82.59% 提高到 85.40%、从 82.86% 提高到 89.92%、从 88.06% 提高到 90.03%。
引用
@article{arxiv.2102.04150,
title = {Exploiting epistemic uncertainty of the deep learning models to generate adversarial samples},
author = {Omer Faruk Tuna and Ferhat Ozgur Catak and M. Taner Eskil},
journal= {arXiv preprint arXiv:2102.04150},
year = {2021}
}
备注
18 pages