生成与验证：神经网络感知系统的语义化形式分析
机器学习
2020-12-18 v1 计算机科学中的逻辑
摘要
测试仍是评估神经网络感知系统准确性的主要方法。先前关于神经网络感知模型形式验证的工作仅限于针对单个图像输入的分类的局部对抗鲁棒性概念。在本工作中，我们针对执行回归的神经网络感知模型，相对于具有语义化潜在空间的生成神经网络，提出一种全局正确性概念。即，对于由生成模型在其潜在空间某一区间上产生的无限图像集合，我们利用神经网络验证证明该模型将始终产生与地面真值误差在某个误差界内的估计。在感知模型失败处，我们获得语义化反例，其携带关于相关系统具体状态的信息，可在无需人工检查对应生成图像的情况下以编程方式使用。我们的方法“生成与验证”提供了一种新技术，用以深入了解神经网络感知系统的失败情形，并在安全关键应用中提供正确行为的有意义保证。
引用
@article{arxiv.2012.09313,
title = {Generate and Verify: Semantically Meaningful Formal Analysis of Neural Network Perception Systems},
author = {Chris R. Serrano and Pape M. Sylla and Michael A. Warren},
journal= {arXiv preprint arXiv:2012.09313},
year = {2020}
}