深入审视针对深度神经网络的位翻转攻击评估
密码学与安全
2022-10-03 v2 机器学习
摘要
深度神经网络模型被大规模部署于多种硬件平台上。这导致出现了新的攻击向量，显著扩展了由对抗机器学习社区广泛研究的标准攻击面。旨在通过对存储在内存中的模型参数（权重）进行攻击以大幅降低模型性能的早期攻击之一是位翻转攻击（Bit-Flip Attack, BFA）。在本工作中，我们指出了与 BFA 相关的若干评估挑战。首先，标准威胁模型中缺乏攻击者预算是有问题的，尤其是在处理物理攻击时。此外，由于 BFA 呈现出关键的变异性，我们讨论了某些训练参数的影响以及模型架构的重要性。本工作是首个展示 BFA 对全连接架构的影响的工作，这些架构与卷积神经网络相比表现出不同的行为。这些结果凸显了定义稳健且合理的评估方法以恰当评估基于参数的攻击的危害以及衡量防御所提供真实鲁棒性水平的重要性。
引用
@article{arxiv.2209.14243,
title = {A Closer Look at Evaluating the Bit-Flip Attack Against Deep Neural Networks},
author = {Kevin Hector and Mathieu Dumont and Pierre-Alain Moellic and Jean-Max Dutertre},
journal= {arXiv preprint arXiv:2209.14243},
year = {2022}
}
备注
Extended version from IEEE IOLTS'2022 short paper