基于隐特征贝叶斯近似的深度神经网络抽象与符号执行
机器学习
2021-03-08 v1 软件工程
摘要
针对深度神经网络 (DNNs) 的验证与确认已开展大量研究，旨在理解 DNN 能否以及如何应用于安全关键系统。然而，现有的验证与确认技术受限于其可扩展性，无论就 DNN 的规模还是数据集的规模而言。本文提出一种新颖的抽象方法，将 DNN 和数据集抽象为贝叶斯网络 (BN)。我们利用降维技术识别由 DNN 隐藏层学习到的隐特征，并将每个隐特征与 BN 的一个节点相关联。在该 BN 上，我们可以进行概率推理以理解 DNN 处理数据的行为。更重要的是，我们可以推导出一种运行时监测方法，以在操作时间检测稀有输入和输入数据的协变量偏移。我们还可以调整现有的结构覆盖引导测试技术（即基于 DNN 的低层元素如神经元），以生成能更好覆盖隐特征的测试用例。我们使用可在 https://github.com/TrustAI/DeepConcolic 获取的 DeepConcolic 工具实现并评估了 BN 抽象技术。
引用
@article{arxiv.2103.03704,
title = {Abstraction and Symbolic Execution of Deep Neural Networks with Bayesian Approximation of Hidden Features},
author = {Nicolas Berthier and Amany Alshareef and James Sharp and Sven Schewe and Xiaowei Huang},
journal= {arXiv preprint arXiv:2103.03704},
year = {2021}
}
备注
38 pages, 10 figures