关于神经网络置信度的形式化推理与自动验证
计算机科学中的逻辑
2026-02-17 v2 人工智能
计算机视觉与模式识别
摘要
过去十年间，涌现出大量工作聚焦于神经网络的鲁棒性，即检查在输入轻微扰动下决策是否保持不变。然而，这些方法大多忽略了神经网络对其输出置信度。本文旨在开发一个通用框架，形式化地同时考虑置信度和鲁棒性。我们提出一种简单却富有表达力的语法，捕捉各种置信度基准规范。我们发展了一种新颖且统一的技术，用于以一致的方式验证语法的所有实例，即通过在神经网络中添加少量额外层，实现可使用任何最先进的神经网络验证工具。我们对8870个基准进行了广泛的实验评估，其中最大网络拥有1380万参数，结果显示该方法在显著优于 ad-hoc 编码方法的显著边缘。
引用
@article{arxiv.2511.07293,
title = {Formal Reasoning About Confidence and Automated Verification of Neural Networks},
author = {Mohammad Afzal and S. Akshay and Blaise Genest and Ashutosh Gupta},
journal= {arXiv preprint arXiv:2511.07293},
year = {2026}
}