针对机器学习模型的动态后门攻击
密码学与安全
2022-03-07 v2 机器学习
机器学习
摘要
机器学习（ML）在过去十年取得了巨大进展，并正被应用于各种关键的实际场景。然而，近期研究表明 ML 模型易受多种安全与隐私攻击。特别地，针对 ML 模型的后门攻击近期引起了大量关注。成功的后门攻击可导致严重后果，例如允许 adversary 绕过关键认证系统。当前的后门技术依赖于在 ML 模型输入上添加静态触发器（具有固定模式与位置），易被当前后门检测机制发现。在本文中，我们提出第一类针对深度神经网络（DNN）的动态后门技术，即随机后门、后门生成网络（BaN）与条件后门生成网络（c-BaN）。我们的技术生成的触发器可具有随机模式与位置，降低了当前后门检测机制的有效性。特别地，基于新颖生成网络的 BaN 与 c-BaN 是前两种算法化生成触发器的方案。此外，c-BaN 是第一种条件后门技术，给定目标标签，其可生成特定于目标的触发器。BaN 与 c-BaN 本质上是一种通用框架，赋予 adversary 进一步定制后门攻击的灵活性。我们在三个基准数据集 MNIST、CelebA 与 CIFAR-10 上广泛评估了我们的技术。我们的技术在后门数据上实现了近乎完美的攻击性能，且效用损失可忽略。我们进一步展示我们的技术可绕过当前最先进的针对后门攻击的防御机制，包括 ABS、Februus、MNTD、Neural Cleanse 与 STRIP。
引用
@article{arxiv.2003.03675,
title = {Dynamic Backdoor Attacks Against Machine Learning Models},
author = {Ahmed Salem and Rui Wen and Michael Backes and Shiqing Ma and Yang Zhang},
journal= {arXiv preprint arXiv:2003.03675},
year = {2022}
}