面向深度神经网络的符号执行
软件工程
2018-07-30 v1 密码学与安全
摘要
深度神经网络（DNN）正越来越多地应用于各类场景，其中许多涉及重大的安全与安保问题。本文提出 DeepCheck，一种基于程序分析（具体而言为符号执行）核心思想来验证 DNN 的新方法。其思路是将 DNN 转换为命令式程序，从而借助程序分析辅助 DNN 验证。然而，直接转换所得程序极为复杂、难以分析。DeepCheck 引入了用于 DNN 轻量级符号分析的新型技术，并将其应用于图像分类场景，以解决 DNN 分析中的两个挑战性问题：1）重要像素的识别（用于归因与对抗样本生成）；以及 2）1 像素与 2 像素攻击的构造。基于 MNIST 数据集的实验结果表明，DeepCheck 的轻量级符号分析为 DNN 验证提供了有价值的工具。
引用
@article{arxiv.1807.10439,
title = {Symbolic Execution for Deep Neural Networks},
author = {Divya Gopinath and Kaiyuan Wang and Mengshi Zhang and Corina S. Pasareanu and Sarfraz Khurshid},
journal= {arXiv preprint arXiv:1807.10439},
year = {2018}
}