用符号传播分析深度神经网络：迈向更高精度与更快验证
机器学习
2021-02-24 v2 计算机科学中的逻辑
摘要
深度神经网络 (DNNs) 已被表明缺乏鲁棒性，因其分类对输入上的微小扰动具有脆弱性。这导致将 DNNs 应用于安全关键领域的安全担忧。若干验证方法已被开发以自动证明或证伪 DNNs 的安全性质。然而，这些方法要么受可扩展性问题困扰（即仅能处理小型 DNNs），要么受精度问题困扰（即所得界松弛）。本文改进了近期通过经典抽象解释技术分析 DNNs 的提议，提出一种新颖的符号传播技术。更具体地，神经元的值被符号化表示并基于抽象域从输入层向前传播至输出层。我们表明我们的方法可比仅使用抽象域达到显著更高的精度，从而可证明更多性质。此外，我们表明在隐藏神经元上由我们的方法导出的界，当应用于最先进的基于 SMT 的验证工具时，可提升其性能。我们将我们的方法实现为软件工具，并在 MNIST 等基准数据集上训练的若干 DNNs 上进行了验证。
引用
@article{arxiv.1902.09866,
title = {Analyzing Deep Neural Networks with Symbolic Propagation: Towards Higher Precision and Faster Verification},
author = {Jianlin Li and Pengfei Yang and Jiangchao Liu and Liqian Chen and Xiaowei Huang and Lijun Zhang},
journal= {arXiv preprint arXiv:1902.09866},
year = {2021}
}
备注
SAS 2019: 26th Static Analysis Symposium, Porto, Portugal, October 8-11, 2019