用于验证神经网络鲁棒性的紧凑半正定松弛
最优化与控制
2025-04-15 v1
摘要
对于验证神经网络（NN）的安全性，Fazlyab 等人 (2019) 引入了一种称为 DeepSDP 的半正定规划（SDP）方法。该表述可视为 SDP 放松的对偶形式，用于解决一个作为二次约束二次规划（QCQP） formulation 的问题。虽然 QCQPs 的 SDP 放松通常提供近似解并存在一定差距，但本工作聚焦于为单层 NN 提供紧凑 SDP 放松，从而提供精确解。具体而言，我们在三种情况下分析紧凑性条件：（i）单个神经元的 NN，（ii) 具有椭圆输入集的单层 NN，（iii）具有矩形输入集的单层 NN。对于单个神经元的 NN，我们提出一种条件，确保 DeepSDP 的 SDP admits rank-1 解，通过将 QCQP 转化为等价的两阶段问题，导致解与预定向量共线。对于具有椭圆输入集的单层 NN，证明了通过两阶段问题中的 Karush-Kuhn-Tucker 条件实现解的共线性。对于具有矩形输入集的单层 NN，我们演示了 DeepSDP 的紧凑性可归约到情况 (i) 中的单神经元 NN，即权矩阵为对角矩阵时。
引用
@article{arxiv.2504.09934,
title = {Tight Semidefinite Relaxations for Verifying Robustness of Neural Networks},
author = {Godai Azuma and Sunyoung Kim and Makoto Yamashita},
journal= {arXiv preprint arXiv:2504.09934},
year = {2025}
}
备注
27 pages, 2 figures