NeuroAttack:通过外部触发的比特翻转破坏脉冲神经网络安全性
密码学与安全
2021-01-26 v1 机器学习
机器学习
摘要
由于其已被证实的效率,机器学习系统被部署于广泛的复杂现实问题中。更具体地,脉冲神经网络(SNNs)作为应对机器学习系统中精度、资源利用和能效挑战的一种有前景的方案而出现。尽管这些系统正走向主流,它们具有固有的安全性和可靠性问题。在本文中,我们提出 NeuroAttack,一种跨层攻击,它通过高层攻击利用低层可靠性问题来威胁 SNNs 的完整性。特别地,我们通过精心构造的对抗性输入噪声触发基于故障注入的隐蔽硬件后门。我们在深度神经网络(DNNs)和 SNNs 上的结果表明,对最先进的机器学习技术存在严重的完整性威胁。
引用
@article{arxiv.2005.08041,
title = {NeuroAttack: Undermining Spiking Neural Networks Security through Externally Triggered Bit-Flips},
author = {Valerio Venceslai and Alberto Marchisio and Ihsen Alouani and Maurizio Martina and Muhammad Shafique},
journal= {arXiv preprint arXiv:2005.08041},
year = {2021}
}
备注
Accepted for publication at the 2020 International Joint Conference on Neural Networks (IJCNN)