FooBaR：针对神经网络训练的故障欺骗后门攻击
密码学与安全
2023-02-24 v2 人工智能
机器学习
摘要
众所周知，神经网络实现易受故障注入攻击等物理攻击向量的威胁。迄今为止，这些攻击仅被用于推理阶段以引发误分类。在本工作中，我们探索了一种新颖的攻击范式：在神经网络训练阶段注入故障，使得所得网络在部署时无需进一步故障即可被攻击。具体而言，我们讨论了针对 ReLU 激活函数的攻击，其能够生成一类被称为欺骗输入的恶意输入，用于在推理时引发受控的误分类。此类恶意输入通过数学求解线性方程组获得，该方程组会使被攻击的激活函数产生特定行为，类似于训练时通过故障所诱导的行为。我们将此类攻击称为欺骗后门，因为训练阶段的故障攻击向网络中注入了后门，使攻击者能够生成欺骗输入。我们在流行的图像分类任务上针对多层感知机网络和卷积网络评估了我们的方法，在仅攻击少至 25 个神经元的同时，对原定分类任务保持高准确率的情况下，获得了高攻击成功率（60% 至 100%）和高分类置信度。
引用
@article{arxiv.2109.11249,
title = {FooBaR: Fault Fooling Backdoor Attack on Neural Network Training},
author = {Jakub Breier and Xiaolu Hou and Martín Ochoa and Jesus Solano},
journal= {arXiv preprint arXiv:2109.11249},
year = {2023}
}
备注
Published in IEEE TDSC