利用通用对抗扰动攻击深度学习AI硬件
密码学与安全
2021-11-19 v1 机器学习
摘要
通用对抗扰动（Universal Adversarial Perturbations）是与图像无关且与模型无关的噪声，其与任意图像叠加均可误导训练好的深度卷积神经网络作出错误预测。由于这些通用对抗扰动会严重危及实际深度学习应用的安全性与完整性，现有技术利用额外的神经网络在输入图像源头检测此类噪声的存在。在本文中，我们展示了一种攻击策略：当被恶意手段（如恶意软件、木马）激活时，可通过在AI硬件加速器阶段增强对抗噪声，绕过这些现有对策。我们利用Conv2D函数的软件内核与硬件的Verilog RTL模型在FuseSoC环境下的协同仿真，在多个深度学习模型上演示了加速器级的通用对抗噪声攻击。
引用
@article{arxiv.2111.09488,
title = {Attacking Deep Learning AI Hardware with Universal Adversarial Perturbation},
author = {Mehdi Sadi and B. M. S. Bahar Talukder and Kaniz Mishty and Md Tauhidur Rahman},
journal= {arXiv preprint arXiv:2111.09488},
year = {2021}
}