基于二次约束与半定规划的神经网络安全性验证与鲁棒性分析
最优化与控制
2021-09-16 v3 机器学习
摘要
证明神经网络针对输入不确定性与对抗攻击的安全性或鲁棒性，是安全机器学习与控制领域中的一个新兴挑战。为提供此类保证，必须能够在输入于有界集合内变化时界定神经网络的输出。本文提出一个半定规划（SDP）框架，以处理具有一般激活函数与输入不确定性集合的前馈神经网络问题。我们的主要思想是用二次约束的形式抽象激活函数的各种性质（例如单调性、有界斜率、有界值以及跨层重复）。随后通过S过程与半定规划分析抽象化网络的安全性质。我们的框架涵盖了保守性与计算效率之间的权衡，并适用于安全性验证之外的问题。我们通过不同规模的数值算例评估了方法的性能。
引用
@article{arxiv.1903.01287,
title = {Safety Verification and Robustness Analysis of Neural Networks via Quadratic Constraints and Semidefinite Programming},
author = {Mahyar Fazlyab and Manfred Morari and George J. Pappas},
journal= {arXiv preprint arXiv:1903.01287},
year = {2021}
}