基于面格的的前馈神经网络可达性分析
人工智能
2020-03-04 v1 机器学习
摘要
深度神经网络已作为处理复杂实际问题的有效方法得到广泛应用。然而，其最根本的开放问题之一是缺乏分析其行为安全性的形式化方法。为应对这一挑战，我们提出了一种可并行化技术，用于计算神经网络对输入集的精确可达集。我们的方法目前聚焦于带有 ReLU 激活函数的前馈神经网络。基于多面体的方法面临的主要挑战之一是识别中间多面体与来自神经元超平面之间的交集。对此，我们提出了一种利用面格（一种完整的组合结构）来构造多面体的新方法。我们通过验证 ACAS Xu 网络及其他基准的安全性来评估我们方法的正确性与性能。与 Reluplex、Marabou 和 NNV 等最先进的方法相比，我们的方法表现出显著更高的效率。此外，我们的方法能够在给定输出集的情况下构造完整的输入集，从而可以追踪任何导致安全违规的输入。
引用
@article{arxiv.2003.01226,
title = {Reachability Analysis for Feed-Forward Neural Networks using Face Lattices},
author = {Xiaodong Yang and Hoang-Dung Tran and Weiming Xiang and Taylor Johnson},
journal= {arXiv preprint arXiv:2003.01226},
year = {2020}
}