基于混合单调性的神经网络可达性分析
系统与控制
2022-06-24 v3 机器学习
系统与控制
摘要
本文提出一种新的可达性分析方法，用于计算具有输入不确定性的前馈神经网络输出集合的区间过近似。我们将现有的用于动力系统可达性分析的混合单调性方法适配到神经网络，并将其应用于主网络内的每个部分网络。这确保了所得结果的交集是使用任意部分网络分解上的混合单调性所能获得的各层输出的最紧区间过近似。与文献中关注于小类分段仿射或单调激活函数的其他工具不同，我们方法的主要优势在于其通用性：它可以处理具有任意 Lipschitz 连续激活函数的神经网络。此外，我们框架的简洁性允许用户通过简单地提供函数、其导数以及导数的全局 argmin 和 argmax，非常容易地添加未实现的激活函数。我们的算法在现有基准以及针对四种激活函数（ReLU、TanH、ELU、SiLU）的两组小型和大型随机生成网络上，与其他五种基于区间的工具（Interval Bound Propagation、ReluVal、Neurify、VeriNet、CROWN）进行了比较。
引用
@article{arxiv.2111.07683,
title = {Reachability analysis of neural networks using mixed monotonicity},
author = {Pierre-Jean Meyer},
journal= {arXiv preprint arXiv:2111.07683},
year = {2022}
}