神经网络的自动修复

在过去十年中，神经网络（NNs）已被广泛应用于众多应用中，包括自动驾驶系统等安全关键型应用。尽管其应用日益广泛，但众所周知神经网络易受对抗攻击。因此，提供此类系统正确工作的保证极为重要。为补救这些问题，我们引入了一个针对安全规范修复不安全神经网络的框架，即利用可满足性模理论（SMT）求解器。我们的方法能够通过仅修改少量权重值来搜索一个新的、安全的神经网络表示。此外，我们的技术试图在决策边界方面最大化与原始网络的相似性。我们进行了大量实验，证明了所提框架能够针对对抗鲁棒性属性生成安全的神经网络，且仅造成轻微的精度损失（就相似性而言）。此外，我们将我们的方法与一个朴素基线进行比较，以从经验上证明其有效性。总之，我们提供了一种在给定安全属性下自动修复神经网络的算法，并提出了一些启发式方法来提升其计算性能。目前，遵循该方法我们能够生成小规模（即参数最多数百个）、由分段线性 ReLU 激活函数构成的正确的神经网络。尽管如此，我们的框架具有通用性，因为它可以针对一阶逻辑规范的任何可判定片段合成神经网络。