DeepBaR: 深度神经网络层的故障后门攻击
机器学习
2024-08-01 v1 密码学与安全
计算机视觉与模式识别
摘要
近年来，由于神经网络在解决各类计算任务（特别是在计算机视觉领域）的成功，基于神经网络的机器学习受到了广泛关注。然而，已有若干研究指出此类网络的训练与实现中存在潜在安全风险。在本工作中，我们提出 DeepBaR，一种通过在训练阶段（尤其是在微调阶段）破坏神经网络行为来植入后门的新方法。我们的技术旨在通过优化一个自定义损失函数来生成对抗样本，该损失函数模拟植入的后门，同时在图像中添加几乎不可见的触发器。我们攻击了三种流行的卷积神经网络架构，结果表明 DeepBaR 攻击的成功率高达 98.30%。此外，当输入非恶意样本时，DeepBaR 在部署后不会显著影响被攻击网络的准确率。值得注意的是，DeepBaR 允许攻击者选择一个从人类视角看与给定类别相似的输入，但该输入会被分类为任意目标类别。
引用
@article{arxiv.2407.21220,
title = {DeepBaR: Fault Backdoor Attack on Deep Neural Network Layers},
author = {C. A. Martínez-Mejía and J. Solano and J. Breier and D. Bucko and X. Hou},
journal= {arXiv preprint arXiv:2407.21220},
year = {2024}
}