利用性质导向测试快速证伪神经网络
人工智能
2021-04-27 v1 机器学习
摘要
神经网络现已广泛用于自主系统的感知、预测与控制。其在安全关键系统中的部署带来了对此类网络验证技术的需求。作为详尽且昂贵的验证算法的替代，轻量级证伪算法已被大量用于搜索系统产生不安全输出的输入，即系统安全性的反例。在本工作中，我们提出一种神经网络的证伪算法，该算法在安全性性质规约引导下定向搜索反例。我们的算法使用无导数基于采样的优化方法。我们在 ACAS Xu 系统的 45 个训练神经网络基准上针对 10 个安全性质评估了我们的算法。我们表明，我们的证伪过程检测到了其他验证工具也报告为不安全的全部不安全实例。此外，在性能方面，与最先进的用于前馈神经网络的验证工具（如 NNENUM 和 Neurify）相比，我们的证伪过程更快地识别出大多数不安全实例，且在许多实例中快数个数量级。
引用
@article{arxiv.2104.12418,
title = {Fast Falsification of Neural Networks using Property Directed Testing},
author = {Moumita Das and Rajarshi Ray and Swarup Kumar Mohalik and Ansuman Banerjee},
journal= {arXiv preprint arXiv:2104.12418},
year = {2021}
}
备注
10 pages, 3 figures, 4 tables