深度神经网络的神经符号验证
人工智能
2022-03-03 v1 机器学习
计算机科学中的逻辑
摘要
形式化验证已成为确保深度神经网络安全性与可靠性的有力方法。然而，当前的验证工具仅限于少数几种性质，这些性质可表达为网络输入与输出上的一阶约束。虽然对抗鲁棒性与公平性属于此范畴，但许多现实世界的性质（例如，“自动驾驶汽车必须在停止标志前停下”）仍处于现有验证技术的范围之外。为缓解这一严重的实际限制，我们引入了一个用于验证神经网络的新颖框架，称为神经符号验证。其核心思想是将神经网络用作原本为逻辑规范的一部分，从而能够验证包括上述性质在内的各种复杂的现实世界性质。此外，我们展示了如何在现有的神经网络验证基础设施之上实现神经符号验证，使我们的框架易于被研究人员和从业者所使用。
引用
@article{arxiv.2203.00938,
title = {Neuro-Symbolic Verification of Deep Neural Networks},
author = {Xuan Xie and Kristian Kersting and Daniel Neider},
journal= {arXiv preprint arXiv:2203.00938},
year = {2022}
}