HASHTAG：用于在线检测深度神经网络故障注入攻击的哈希签名
密码学与安全
2021-11-04 v1 人工智能
机器学习
摘要
我们提出 HASHTAG，这是第一个能够高精度检测深度神经网络（DNN）故障注入攻击，并提供可证明检测性能边界的框架。近期关于故障注入攻击的文献显示了由比特翻转引起的严重 DNN 精度下降。在此场景中，攻击者通过篡改程序的 DRAM 内存，在 DNN 执行期间更改少量权重比特。为了检测运行时的比特翻转，HASHTAG 在部署前从良性 DNN 中提取一个唯一签名。该签名随后用于验证 DNN 的完整性，并实时验证推理输出。我们提出了一种新颖的敏感性分析方案，能准确识别出最易受故障注入攻击的 DNN 层。然后，通过使用低碰撞哈希函数对易受攻击层中的底层权重进行编码来构建 DNN 签名。当 DNN 部署后，在推理过程中从目标层提取新的哈希值，并与基准签名进行比较。HASHTAG 整合了一种轻量级方法，确保在嵌入式平台上实现低开销和实时故障检测。在各种 DNN 上针对最先进的比特翻转攻击进行的广泛评估，证明了 HASHTAG 在攻击检测和执行开销方面的竞争优势。
引用
@article{arxiv.2111.01932,
title = {HASHTAG: Hash Signatures for Online Detection of Fault-Injection Attacks on Deep Neural Networks},
author = {Mojan Javaheripi and Farinaz Koushanfar},
journal= {arXiv preprint arXiv:2111.01932},
year = {2021}
}