AGNES：面向深度神经网络安全的抽象引导框架
机器学习
2024-10-11 v1 密码学与安全
计算机视觉与模式识别
摘要
深度神经网络（DNNs）正变得无处不在，尤其在安全关键领域。一个突出的应用是自动驾驶中的图像识别，其中对交通标志等物体的正确分类对安全驾驶至关重要。遗憾的是，DNNs容易受到后门攻击，即它们聚焦于图像中本应与正确分类无关的属性。后门在训练期间被植入DNN，可能是恶意的（例如被操纵的训练过程，导致黄色贴纸总使交通标志被识别为停车标志），也可能是无意的（例如乡村背景因有偏训练数据而导致任何交通标志被识别为动物穿越）。本文中，我们介绍AGNES，一个用于检测DNNs图像识别后门的工具。我们讨论AGNES所基于的原理性方法。随后，我们展示该工具在多个相关案例研究中优于许多最先进的方法。
引用
@article{arxiv.2311.04009,
title = {AGNES: Abstraction-guided Framework for Deep Neural Networks Security},
author = {Akshay Dhonthi and Marcello Eiermann and Ernst Moritz Hahn and Vahid Hashemi},
journal= {arXiv preprint arXiv:2311.04009},
year = {2024}
}
备注
14 pages, 6 Figures, 4 Tables, Accepted at 25th International Conference on Verification, Model Checking, and Abstract Interpretation (VMCAI 2024)