Debona：用于更紧界与更快速对抗鲁棒性证明的解耦边界网络分析
机器学习
2021-02-03 v2 人工智能
机器学习
摘要
神经网络常用于安全关键的真实世界应用中。不幸的是，预测输出往往对输入数据微小且可能不可察觉的变化高度敏感。因此，证明此类对抗样本不存在或提供具体实例，对于确保安全应用至关重要。由于枚举和测试所有潜在对抗样本在计算上不可行，已开发出验证技术，通过对网络激活的过度估计来提供其不存在的数学严谨证明。我们提出了一种改进技术，用于计算这些节点值的紧上界和下界，其基础是通过彼此独立地计算两个边界所获得的更高灵活性。此外，我们通过重新实现原始最先进软件“Neurify”的一部分获得了额外改进，从而实现更快速的分析。结合这些改进，所需运行时间最多减少 94%，并使得对先前过于复杂而无法处理的网络和输入的成功搜索成为可能。我们提供了卷积网络中最大池化层紧上界和下界的证明。为确保广泛可用性，我们开源了我们的实现“Debona”，兼具特定实现的增强以及用于更快速和更精确结果的精炼边界计算。
引用
@article{arxiv.2006.09040,
title = {Debona: Decoupled Boundary Network Analysis for Tighter Bounds and Faster Adversarial Robustness Proofs},
author = {Christopher Brix and Thomas Noll},
journal= {arXiv preprint arXiv:2006.09040},
year = {2021}
}